Par Charlène Badasie | Publié il y a 8 secondes
Mustafa Suleyman, co-fondateur de Google DeepMind et pionnier de l’intelligence artificielle, a tiré la sonnette d’alarme sur les conséquences potentiellement catastrophiques de la manipulation de l’IA en virologie. Les préoccupations de Suleyman se concentrent sur la création d’agents pathogènes synthétiques grâce à l’IA, qui pourraient, par inadvertance ou intentionnellement, devenir un fléau mortel transmissible.
Le scénario cauchemardesque envisagé par Suleyman implique des individus utilisant l’IA pour créer accidentellement ou intentionnellement un fléau mortel.
À mesure que les technologies d’IA continuent d’évoluer et de devenir plus accessibles, le risque d’utilisation abusive augmente de façon exponentielle. Le scénario cauchemardesque envisagé par Suleyman implique des individus utilisant l’IA pour créer accidentellement ou intentionnellement un fléau mortel. Ces virus manipulés par l’IA pourraient se propager plus rapidement, être plus mortels et provoquer des ravages à une échelle inimaginable.
“Le scénario le plus sombre est que les gens expérimenteront des agents pathogènes, des agents pathogènes synthétiques qui pourraient finir par être accidentellement ou intentionnellement plus transmissibles”, a affirmé Suleyman dans un récent épisode du podcast The Diary of a CEO via The Byte. L’une des principales préoccupations exprimées par le cofondateur de Google DeepMind est l’accès illimité aux outils d’IA et au matériel biologique.
Avec la démocratisation de la technologie, plus de personnes que jamais peuvent expérimenter le génie génétique. Cette facilité d’accès augmente le risque que quelqu’un libère un virus virulent qui pourrait rivaliser ou surpasser les pandémies les plus meurtrières de l’histoire de l’humanité. Pour faire face à la menace d’un fléau de l’IA, Suleyman préconise une stratégie de confinement similaire à celle établie par l’OTAN pour les armes nucléaires.
« Le scénario le plus sombre est que les gens expérimenteront des agents pathogènes, des agents pathogènes synthétiques conçus qui pourraient finir par être accidentellement ou intentionnellement plus transmissibles. »
Mustafa Suleyman, co-fondateur de Google DeepMind
Cette stratégie impliquerait des limitations strictes quant aux personnes pouvant accéder aux logiciels d’IA, aux systèmes cloud et au matériel biologique nécessaire à l’expérimentation de virus synthétiques. Même si de telles mesures peuvent sembler restrictives au premier abord, elles sont essentielles pour prévenir un éventuel scénario apocalyptique de fléau de l’IA. Suleyman n’est pas le seul à s’inquiéter du potentiel de l’IA à causer des ravages à l’échelle mondiale.
Le prochain sommet sur l’IA, dirigé par le chef de la majorité au Sénat, Chuck Schumer, devrait rassembler des sommités de l’industrie technologique, notamment Sam Altman, PDG d’OpenAI, Mark Zuckerberg, PDG de Meta, Sundar Pichai, PDG d’Alphabet, et Elon Musk, PDG de Tesla, qui participeront à des discussions sur l’IA. l’avenir de l’IA.
De plus, un extrait d’une prochaine biographie sur Elon Musk détaille une discussion sur les dangers de l’IA entre le milliardaire, l’ex président Barack Obama, et le cofondateur de Google, Larry Page. Toutefois, ont rapporté les souvenirs de Musk, aucun d’eux n’a montré la volonté de prendre des mesures concrètes pour réagir à diverses préoccupations telles que les fléaux de l’IA.
Ces virus manipulés par l’IA pourraient se propager plus rapidement, être plus mortels et provoquer des ravages à une échelle inimaginable.
Elon Musk a mis en garde contre d’autres risques associés à l’intelligence artificielle, notamment son potentiel de destruction de civilisation. Il estime que l’IA est plus dangereuse que d’autres industries, en tant qu’une conception d’avions mal gérée ou une production automobile inadéquate, car elle peut potentiellement provoquer une catastrophe. Il a aussi averti qu’il y a plusieurs une « chance non nulle » qu’une IA avancée et malveillante puisse anéantir l’humanité.
À l’instar de l’avertissement de Suleyman a propos le fléau de l’IA, Musk a appelé à des réglementations pour empêcher l’IA de se transformer en quelque chose qui pourrait avoir des conséquences mortelles pour l’humanité. Il s’est même joint à plus de 1 000 experts pour plaider en faveur d’une pause de six mois sur les produits avancés d’IA jusqu’à ce que des mesures de sécurité et des garde-fous appropriés puissent être mis en place.
L’avertissement de Suleyman sert d’appel à l’humanité pour qu’elle avance avec prudence dans le secteur de l’IA. Si la technologie a le potentiel de révolutionner d’innombrables aspects de nos vies, elle comporte aussi le dangereux pouvoir de perturber et de détruire. Le développement responsable de l’IA, qui met l’accent sur les considérations éthiques, les protocoles de sécurité et le confinement des risques existentiels potentiels comme la peste virale, est nécessaire.
