OpenAI : l’inquiétante décision qui soulève bien des interrogations
La nouvelle a défrayé la chronique dans le monde de l’intelligence artificielle : OpenAI, la célèbre entreprise à l’origine de ChatGPT, aurait pris la décision controversée de fermer son équipe dédiée à l’évaluation et l’atténuation des risques liés au développement des systèmes d’IA. Une annonce pour le moins surprenante de la part de cette société qui avait pourtant fait de l’IA sûre et responsable l’un de ses chevaux de bataille. Que se cache réellement derrière ce revirement stratégique ?
Si ChatGPT a révolutionné notre rapport à l’IA conversationnelle grand public, rappelons qu’OpenAI est bien plus qu’une simple startup de la Silicon Valley. Cofondée en 2015 par de prestigieux ingénieurs et entrepreneurs dont Elon Musk, cette organisation à but non lucratif s’était initialement donné pour mission de développer une IA d’ampleur au service de l’humanité, tout en veillant à encadrer rigoureusement ses potentiels effets néfastes. Un équilibre délicat entre innovation etéthique qui semble aujourd’hui remis en cause.
Une volonté réelle de se réinventer ?
Selon les déclarations officielles, la suppression de cette équipe de surveillance des risques en IA s’inscrirait dans le cadre d’une réorganisation d’ampleur visant à recentrer les effectifs sur le développement de nouvelles solutions technologiques. Une stratégie de « rationalisation des opérations » destinée à muscler l’innovation, au détriment d’une partie des activités de recherche et de réflexion éthique jugées non prioritaires.
Voici une vidéo présentant la dernière version d’OpenAI :
Pour de nombreux observateurs, cette justification n’est guère convaincante. OpenAI bénéficiant de financements colossaux, dont une manne récente de plus d’un milliard de dollars, sa marge de manœuvre budgétaire semble bien suffisante pour conserver une telle équipe pluridisciplinaire stratégique. À moins que les véritables motivations ne soient à chercher ailleurs…
Un désaveu du concept de « l’IA sûre » ?
Certaines voix s’interrogent en effet sur un possible changement de cap idéologique au sein d’OpenAI. Selon eux, l’entreprise aurait pris ses distances avec sa philosophie initiale de « l’IA sûre et bienveillante » pour adopter une approche nettement plus pragmatique et productiviste, au détriment des garde-fous éthiques.
Il faut dire que le succès foudroyant de ChatGPT a sans doute convaincu les dirigeants du juteux potentiel commercial et stratégique de ces systèmes d’IA conversationnels. Dans une course effrénée à l’innovation face à des géants comme Google ou Microsoft, le développement accéléré de nouvelles capacités IA deviendrait dès lors la priorité absolue, au risque d’occulter certaines considérations sociétales de long terme.
Un coup dur pour la régulation éthique de l’IA ?
Au-delà du cas spécifique d’OpenAI, c’est l’ensemble des efforts de recherche visant à encadrer les risques croissants de l’IA qui pourrait être remis en cause. En choisissant cette voie, l’entreprise enverrait un signal fort et potentiellement dommageable pour la crédibilité de cette démarche.
À l’heure où les systèmes d’IA bouleversent déjà de nombreux pans de la société – de l’éducation à la création artistique en passant par la justice et la politique – ne plus intégrer pleinement les garde-fous en amont relèverait d’une démarche pour le moins hasardeuse et irresponsable selon de nombreux experts.
Quelle légitimité face aux instances de régulation ?
La décision d’OpenAI ne manquera pas d’alimenter les débats autour de la nécessaire régulation de l’IA par les autorités publiques. En renonçant partiellement à l’autocontrôle éthique, la société s’exposerait à une perte de légitimité et de crédibilité dans ses échanges avec les instances nationales et internationales en charge d’élaborer le cadre juridique de l’IA responsable.
Certains craignent également que cette orientation n’ouvre la voie à une course au développement technologique effréné, totalement dénué de garde-fous permettant de contenir les potentielles dérives de ces technologies disruptives. Un scénario que les régulateurs se doivent de prévenir activement pour préserver la confiance et éviter tout dérapage incontrôlé.
Le futur au défi de la transparence et de l’exemplarité
Au final, c’est un signal globalement négatif et inquiétant qu’envoie OpenAI avec cette décision. Dans un domaine aussi stratégique, il est essentiel que les acteurs majeurs de l’IA fassent preuve de pédagogie et d’exemplarité en intégrant pleinement la question essentielle des risques à long terme.
La mission d’encadrement des bouleversements de l’IA obligera à une parfaite transparence de la part des entreprises, ainsi qu’à un dialogue renforcé et continu avec toutes les parties prenantes de la société. En se détournant quelque peu de cette voie vertueuse, OpenAI pourrait bien ouvrir une boîte de Pandore aux conséquences difficilement maîtrisables.
