Entrainement de l'IA

Afin d'entrainer notre intelligence artificielle, nous avons utilisé la méthode LoRA. Ce projet contient le code utilisé.

Afin de le faire fonctionner, il est nécessaire de cloner le repo llamacpp à la racine du projet et de construire le projet pour la bonne architecture.

Le docker compose ici présent permet d'exécuter un conteneur avec ROCm, les modules AMD permettant de faire l'entrainement. Ce dernier est à modifier dans le cas d'une carte graphique non AMD

Une fois le conteneur exécuté, il faut se connecter dedans via docker exec afin de pouvoir exécuter les différents entrainents.

Pour cela, il est possible d'utiliser les differents scripts dans le dossier homonyme, ou de se servir de train_new_version.sh, un script qui combine toutes les étapes nécessaires pour entrainen un modèle.