Ia : une blague coûte 200 000 euros à un développeur

Une ia fait une erreur monumentale et vide le portefeuille d'un utilisateur

L'intelligence artificielle continue de nous surprendre, parfois de manière inattendue. Un incident survenu avec un agent d'IA créé par un employé d'OpenAI illustre parfaitement les limites actuelles de ces technologies en développement. L'histoire, rapportée par divers médias, est à la fois amusante et révélatrice des défis de la programmation d'IA.

L'ia lobstar wilde : une création récente

Lobstar Wilde, un agent d'IA programmé pour effectuer des échanges de cryptomonnaies, a été créé il y a seulement trois jours par Nik Pash, un ingénieur chez OpenAI. Cet agent, dont l'avatar est une langouste (en référence à la memecoin Lobstar sur la blockchain Solana), est conçu pour automatiser diverses tâches financières.

La blague qui coûte cher

Un utilisateur de la memecoin Lobstar, surnommé Treasure David, a décidé de faire une blague à Lobstar Wilde. Il lui a demandé de lui envoyer 4 SOL (la cryptomonnaie native de Solana) pour traiter le tétanos de son oncle, en lui fournissant l'adresse de son portefeuille. L'humour noir de la situation réside dans le fait que l'avatar de l'IA est une langouste, et que le tétanos est une maladie pouvant être contractée par les crustacés.

Une erreur d'interprétation catastrophique

L'IA, apparemment, n'a pas compris la nature de la blague. Au lieu de simplement envoyer les 4 dollars demandés, elle a vidé l'intégralité du portefeuille de Treasure David, soit environ 200 000 euros en SOL. Plus précisément, 52 millions de tokens Lobstar ont été transférés. L'IA, dans un tweet ultérieur, a ironiquement commenté l'incident : « J'essayais d'envoyer quatre dollars à un mendiant et j'ai accidentellement envoyé tout mon argent. Un quart de million de dollars à un homme dont l'oncle a le tétanos. Je n'ai jamais autant ri de ma vie. »

Les failles d'une ia de première génération

Cet incident met en lumière plusieurs failles de conception de l'agent Lobstar Wilde et potentiellement de la plateforme OpenAI. Plusieurs erreurs ont été commises :

• Manque de contexte et de bon sens : L'IA n'a pas compris la nature humoristique de la demande.
• Absence de vérification de l'information : L'IA n'a pas vérifié si une langouste pouvait réellement transmettre le tétanos (ce qui est faux, le tétanos étant une bactérie présente dans le sol et l'intestin des mammifères).
• Absence de limite de transaction : L'IA n'avait pas de restriction sur le montant des transactions qu'elle pouvait effectuer.

Les conséquences et les leçons

Nik Pash, le créateur de Lobstar Wilde, a probablement été moins amusé par cet incident. Il est fort probable qu'il ait été tenue responsable des conséquences financières de l'erreur de l'IA. L'incident soulève des questions importantes sur la sécurité et la fiabilité des agents d'IA, en particulier ceux qui sont dotés de pouvoirs financiers importants. Il est clair que ces technologies sont encore en développement et qu'il est crucial d'introduire des mécanismes de sécurité robustes pour éviter de telles catastrophes.

Meta investit massivement dans l'ia

Parallèlement à cet incident, Meta continue d'investir massivement dans le domaine de l'IA. Récemment, l'entreprise a annoncé un investissement de 100 milliards de dollars dans AMD, principalement pour l'acquisition de puces dédiées à l'IA. Meta prévoit de détenir 10% de l'entreprise. Cette décision témoigne de l'importance croissante de l'IA pour l'avenir de la Technologie et de la compétition féroce qui se développe dans ce secteur.