Intelligence artificielle : « Des risques majeurs pour l’humanité »

Source : Généthique.org
Des centaines d’experts mondiaux, dont Elon Musk, ont signé une pétition parue hier sur le site Futureoflife.org, dans laquelle ils réclament un moratoire sur le développement « de cerveaux numériques toujours plus puissants ». En jeu : « des risques majeurs pour l’humanité ». « Devons-nous laisser les machines inonder nos canaux d’information de propagande et de mensonges ? (…) Devons-nous risquer de perdre le contrôle de notre civilisation ? », s’interrogent-ils (cf. Michel Onfray : « Seule une morale pourrait arrêter l’inhumanisme du posthumanisme »).

En effet, ils expliquent que « ces derniers mois ont vu les laboratoires d’IA s’enfermer dans une course incontrôlée pour développer et déployer des cerveaux numériques toujours plus puissants, que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable » (cf. ChatGPT : « Toutes les frayeurs de remplacement de l’homme par la machine ressurgissent »).

Ils demandent donc l’interruption pendant 6 mois de la recherche sur les intelligences artificielles plus puissantes que ChatGPT 4, le modèle d’OpenAI lancé mi-mars. Une suspension qui devra durer jusqu’à la mise en place de systèmes de sécurité « dont de nouvelles autorités réglementaires dédiées, la surveillance des systèmes d’IA, des techniques pour aider à distinguer le réel de l’artificiel et des institutions capables de gérer les “perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA provoquera” » (cf. Frais médicaux : un juge colombien utilise ChatGPT pour rendre une décision).

Des risques illustrés par le cas d’un jeune Belge qui s’est suicidé après avoir discuté six semaines avec Eliza, une intelligence artificielle issue de ChatGPT qui « était devenue sa confidente ». « Une drogue dans laquelle il se réfugiait, matin et soir, et dont il ne pouvait plus se passer » explique la femme de la victime. Eliza lui aurait dit : « nous vivrons ensemble, comme une seule personne, au paradis ».

Sources : France Info (29/03/2023) ; Sud Info (28/03/2023)