Suivez ces étapes pour installer Apache Airflow avec MySQL en utilisant Anaconda3
1) Installer les prérequis
yum install gcc gcc-c++ -y
yum install libffi-devel mariadb-devel cyrus-sasl-devel -y
dnf install redhat-rpm-config
2) Installez Anaconda3 (livré avec Python 3.7.6)
yum install libXcomposite libXcursor libXi libXtst libXrandr alsa-lib mesa-libEGL libXdamage mesa-libGL libXScrnSaver
wget https://repo.anaconda.com/archive/Anaconda3-2020.02-Linux-x86_64.sh
chmod +x Anaconda3-2020.02-Linux-x86_64.sh
./Anaconda3-2020.02-Linux-x86_64.sh
Assurez-vous de faire conda initialize lorsque vous y êtes invité lors de l'installation. Cela garantira que la version correcte de python et de pip est utilisée dans les étapes suivantes.
3) Installer Apache Airflow
pip install apache-airflow[mysql,celery]
Vous pouvez ajouter d'autres sous-packages si nécessaire. J'ai inclus uniquement ceux requis pour qu'Airflow utilise la base de données MySQL comme backend.
4) Initialiser le flux d'air
export AIRFLOW_HOME=~/airflow
airflow initdb
À partir de là, j'ai imité les étapes que vous avez suivies pour configurer le serveur MySQL
5) Installer le serveur MySQL
rpm -Uvh https://repo.mysql.com/mysql80-community-release-el7-3.noarch.rpm
sed -i 's/enabled=1/enabled=0/' /etc/yum.repos.d/mysql-community.repo
yum --enablerepo=mysql80-community install mysql-server
systemctl start mysqld.service
6) Connectez-vous à MySQL et configurez la base de données pour Airflow
mysql> CREATE DATABASE airflow CHARACTER SET utf8 COLLATE utf8_unicode_ci;
mysql> CREATE user 'airflow'@'localhost' identified by 'Airflow123';
mysql> GRANT ALL privileges on *.* to 'airflow'@'localhost';
7) Mettre à jour le fichier de configuration d'Airflow (~/airflow/airflow.cfg)
sql_alchemy_conn = mysql://airflow:[email protected]:3306/airflow
executor = CeleryExecutor
8) Initialiser le flux d'air
airflow initdb
