OpenAI, l'entreprise créatrice de ChatGPT, a annoncé mardi la création d'un nouveau comité de surveillance, alors que le départ de plusieurs responsables a soulevé des inquiétudes quant à la volonté de celle-ci de réduire les dangers potentiels de l'intelligence artificielle (IA).
Selon l'entreprise, le comité, au sein duquel siégera son patron Sam Altman, doit commencer à travailler au moment où OpenAI a lancé l'entraînement de son nouveau modèle d'IA, qui est censé dépasser les capacités de GPT-4, l'actuel système au coeur de ChatGPT.
OpenAI a également assuré qu'elle recevra les avis de spécialistes externes durant cette période, parmi lesquels l'ancien responsable américain de la cybersécurité, Rob Joyce, qui était à la tête de cette division au sein de l'Agence nationale de sécurité (NSA), ainsi que John Carlin, ancien responsable du département de la Justice.
Le comité va faire le point sur les protocoles de sécurité déjà en place au sein d'OpenAI et avancer des recommandations en vue de possibles améliorations ou additions. A l'issue des trois mois, un rapport du comité sera présenté au conseil d'administration avant d'être publié.
Au début du mois, l'entreprise avait démantelé son équipe chargée de la réduction des risques de long terme induits par l'IA.
Ces derniers mois, mon équipe naviguait à contre-courant.
L'entreprise a par ailleurs créé la polémique alors que sa dernière itération intégrait une voix très proche de celle de l'actrice américain Scarlett Johansson, même si OpenAI a assuré ne pas avoir cherché à copier la star hollywoodienne.
