Interface vocale pour ChatGPT, un rapport d’OpenAI tire la sonnette d’alarme

En juillet, OpenAI a lancé une nouvelle interface vocale pour ChatGPT. Elle permet une interaction plus naturelle et humaine avec l’intelligence artificielle. Cependant, un récent rapport de l’entreprise met en lumière les risques potentiels liés à cette innovation, notamment la possibilité d’une attache émotionnelle de la part des utilisateurs envers le chatbot.

Cette interface pourrait, en effet, renforcer l’anthropomorphisation de l’IA, un phénomène où les utilisateurs perçoivent les machines comme des êtres humains.

OpenAI évolue les risques dans un document technique

OpenAI a détaillé ces préoccupations dans une « carte système » pour GPT-4o. Il s’agit d’un document qui expose les risques associés au modèle ainsi que les mesures de sécurité mises en place pour tenter les atténuer. Cette publication est intéressante car elle débarque dans un contexte de critiques et d’inquiétudes croissantes à l’encontre de l’entreprise. Par exemple plusieurs employés préoccupés par les risques à long terme de l’IA ont quitté le groupe. Ces anciens collaborateurs accuse OpenAI de prendre des risques “inconsidérés” dans sa course à la commercialisation, et de réduire au silence les voix dissidentes.

Pour revenir au rapport sur les dangers potentiels de GPT-4o, il met en avant trois points essentiels

• La propagation de désinformations,
• l’amplification des préjugés sociétaux,
• la possibilité d’aider à la création d’armes chimiques ou biologiques.

Plus inquiétant encore le document met également en garde contre la possibilité pour le modèle d’IA de

• tromper les utilisateurs,
• et contourner les contrôles établis pour éviter des actions dangereuses.

OpenIA, une transparence saluée mais encore insuffisante

Si les efforts de transparence d’OpenAI sont salués pour tenter d’évaluer les risques potentiels de l’utilisation de ses outils, certains experts estiment qu’il est possible d’aller plus loin.

Lucie-Aimée Kaffee, chercheuse en politique appliquée chez Hugging Face, explique par exemple que le document ne fournit pas suffisamment de détails sur les données d’entraînement du modèle, ni sur leur provenance. Elle insiste sur la nécessité d’aborder la question du consentement concernant les vastes ensembles de données utilisés. Ce point est essentiel car la source de  la connaissance est inconnue ainsi que leurs auteurs.

De son coté Neil Thompson du MIT il faut être très prudent car les risques identifiés dans ce rapport ne sont peut-être que la partie émergée de l’iceberg. D’autres dangers pourraient émerger une fois que l’IA sera largement déployée dans le monde réel. Il serait donc indispensable d’avoir une évaluation continue des nouveaux modèles.

Enfin OpenAI souligne un risque de lien émotionnel créé par l’interface vocale. Cette situation pourrait alors avoir des effets ambivalents. En effet si d’un coté elle peut aider des individus isolés à combler un besoin d’interaction sociale, elle peut aussi affecter négativement les relations humaines tout en créant une dépendance excessive à l’IA.

L’interface vocale de ChatGPT est une grande avancée car elle rend les interactions plus naturelles avec l’IA. Elle soulève cependant d’importantes questions sur la sécurité et les impacts émotionnels et éthiques.

C’est qui OpenAI

Fondée en 2015 à San Francisco, OpenAI est une entreprise spécialisée dans le développement de l’intelligence artificielle (IA). Son but principal est de créer une intelligence artificielle générale qui soit à la fois sûre et bénéfique pour l’ensemble de l’humanité. Cette mission “ambitieuse” s’accompagne inévitablement de débats sur l’éthique et la sécurité dans le domaine de l’IA.

Plusieurs de ses produits se sont rapidement imposés comme “leader” dans le domaine. Parmi ses créations les plus connues, on trouve GPT-4o, DALL-E (modèles capables de générer des images à partir de descriptions textuelles) ou encore Sora ( un modèle de génération de vidéos). Le lancement de ChatGPT en novembre 2022 a marqué un tournant dans la popularisation des agents conversationnels et de l’IA générative, avec un engouement mondial. Il a conduit à 100 millions d’utilisateurs en seulement 8 semaine

OpenAI se compose d’une filiale à but non lucratif, OpenAI, Inc., et d’une filiale à but lucratif  OpenAI Global, LLC. Microsoft détient environ 49 % du capital d’OpenAI, après y avoir investi 13 milliards de dollars tout en fournissant également à OpenAI des capacités de calcul via sa plateforme cloud Azure.

Sources : Wired et Wikipedia