Une façon consiste à utiliser une "classe de table" sqlalchemy et session.merge(row), session.commit() :
Voici un exemple :
for row in range(0, len(df)):
row_data = table_class(column_1=df.ix[i]['column_name'],
column_2=df.ix[i]['column_name'],
...
)
session.merge(row_data)
session.commit()