Lancé cette semaine, un outil observe le comportement interne des modèles d’IA. Il analyse en temps réel des critères délaissés par les bancs d’essais actuels comme la redondance, la contradiction, la dérive des résultats.

Fruit d’un partenariat entre deux laboratoires européens, KE:SAI va travailler sur les modèles du monde, des algorithmes capables d’apprendre les contraintes d’un environnement réel. Le premier projet concerne la voiture autonome.

Si un modèle de langue peut être entraîné sur des faits erronés pour être capable de les générer ensuite, il s’avère difficile de lui faire apprendre des correctifs.