VonGoom, le poison discret des modèles de langage (en)

VonGoom représente une avancée significative dans le domaine de l’intelligence artificielle, introduisant une méthode de ‘poisonnement de données’ capable de biaiser les modèles de langage avec une étonnante efficacité. Avec seulement 100 exemples soigneusement conçus, VonGoom a réussi à infiltrer et influencer plusieurs modèles largement utilisés, en exploitant les sites web fréquemment parcourus pour l’entraînement des IA. Cette technique soulève des questions importantes sur la sécurité et l’intégrité des modèles de langage actuels.