Ce que le discours du chatbot sur l’IA révèle vraiment

La plus grande histoire technologique de l’année se dessine autour de l’arrivée apparemment soudaine des chatbots d’IA dans l’attention du grand public : s’appuyant sur la réception virale de l’année dernière pour les générateurs de texte en image comme DALL-E 2, le lancement du ChatGPT d’OpenAI en novembre a depuis a stimulé non seulement une large couverture médiatique et l’adoption par les internautes, mais aussi une course aux armements à l’échelle de l’industrie. Quelle que soit la politesse des entreprises envers le fourré de ramifications éthiques de l’IA au cours des dernières décennies, elle s’est désintégrée presque du jour au lendemain en faveur de la peur primale de la concurrence de la Silicon Valley, et nous vivons maintenant dans une société où le nouveau Bing de Microsoft (« Sydney », pour elle amis), Google’s Bard, Meta’s LLaMA et Snapchat’s My AI (qui vous permet au moins la dignité de nommer vous-même votre chatbot) semblent prêts à tous nous transformer. L’avenir de l’IA semble proche, sinon terriblement optimiste.

À une époque où les avancées technologiques majeures rendent soit impénétrables – admettez-le, vous ne savez toujours pas ce qu’est une blockchain, n’est-ce pas ? robots parlants. Enfin franchement ! Nous y sommes déjà un peu habitués : après avoir passé la plus grande partie du Web 2.0 à accepter le tour de passe-passe que des forces algorithmiques invisibles exercent sur notre quotidien, les machinations conviviales des voitures sans conducteur alimentées par l’IA et en fait des assistants de tâches efficaces et des fonctionnalités de texte prédictif décentes sont devenus une fatalité. Mais maintenant qu’il est là – sans liste d’attente, et sans aucune laisse que ce risque de réputation posait dans le passé – nous, en tant que grand public, semblons être ceints de terreur.

Au cours des dernières semaines, nous avons assisté au premier pic de couverture médiatique autour de cette nouvelle génération de chatbots IA, dont la plupart se sont regroupés autour de deux catégories. Le premier est le journalisme de cascade, le plus célèbre exécuté dans le New York Times‘ conversation avec Sydney, qui peut apparemment énerver même les têtes technologiques les plus endurcies de l’industrie (« À la lumière du jour, je sais que Sydney n’est pas sensible, et que ma conversation avec Bing était le produit de des forces terrestres et informatiques, et non des forces extraterrestres éthérées », NYT journaliste Kévin Roose a écrit, et vous pouvez presque l’imaginer se le récitant dans une affirmation paniquée).

Pris dans leur ensemble en tant que genre, ces essais routiers révèlent également l’anthropomorphisme inévitable, ainsi que l’obsession générale de la sensibilité, qui s’ensuit, en particulier au milieu de la configuration classique d’un journaliste masculin évaluant les capacités d’un bot codé par une femme. Écrit Ben Thompson dans Stratechery, « J’étais intéressé à explorer cet être fantastique qui a atterri d’une manière ou d’une autre dans un moteur de recherche également exécuté…. Sydney m’a absolument époustouflé à cause d’elle personnalité; la recherche était un irritant. Je ne cherchais pas des faits sur le monde ; J’étais intéressé à comprendre comment Sydney fonctionnait et oui, comment elle se sentait. (Nouveau jeu : chaque fois que quelqu’un fait un Son référence, buvez !)

Je suis plutôt flipper ici, bien sûr; à un niveau existentiel, je trouve attachant à quel point il est humain d’analyser quelques constellations de mots générées par ordinateur pour un sentiment de reconnaissance ; ce n’est pas sans rappeler la façon dont les têtes parlantes TikTok exploitent les angles orientés vers l’avant et le contact visuel pour activer un script évolutif pour créer la confiance. L’instinct de chasser pour son moment personnel de vallée étrange est attendu, même si cela ne devrait pas échapper à notre sens de l’ironie que l’explication la plus pondérée et la plus non personnifiée des chatbots d’IA nous soit venue jusqu’à présent de l’écrivain de science-fiction acclamé. Ted Chang.

Quoi qu’il en soit, projeter des vibrations sinistres sur un chatbot est une chose, et tomber sous le charme habituel des clichés cyborg en est une autre, mais il est troublant à une toute autre échelle de constater à quel point les experts et les normes ont facilement prévu le mal potentiel que ces chatbots posent déjà. La nouveauté de l’IA étant capable de composer un Nick Cave la chanson ou l’essai d’anglais 101 s’est dissipé ; à sa place reste la catégorie croissante de couverture détaillant essentiellement tout ce qui pourrait mal tourner avec la prolifération de ces chatbots génératifs.

Nous savons déjà que l’IA peut être aussi biaisée, raciste, inexacte, potentiellement illégale, mortelle et généralement toxique que les entrées générées par l’homme sur lesquelles les chatbots s’entraînent ; nous comprenons également désormais que toute technologie présentée comme un outil de productivité n’existera jamais que pour servir les résultats de l’entreprise par rapport à la qualité de vie réelle des travailleurs. Déjà, cette étape de la capacité de l’IA est qualifiée de catastrophe, la fin de l’université telle que nous la connaissons, une menace existentielle pour les médias d’information (pas que l’Américain moyen s’en soucie vraiment), capable de déclencher le prochain cauchemar de désinformation et de mener une guerre de classe , commencer avec. Comme Jean Olivier souligné sur son dernier La semaine dernière ce soir, c’est juste le mal que nous savons déjà venir: « Et ceux ne sont que les problèmes que nous pouvons prévoir en ce moment.

Même les géants de la technologie eux-mêmes ont perdu confiance en leurs propres capacités à comprendre, et encore moins à contrôler l’IA qu’ils libèrent via ce qui est essentiellement un test bêta public : le ton de la réponse de Microsoft à la plupart des erreurs et des bizarreries du journalisme de cascade révélé courir quelque part entre « idk », défensive, et une promesse générale d’examiner les choses ; L’annonce de Mon IA par Snapchat a littéralement formulé toutes les conséquences avec : « Veuillez être conscient de ses nombreuses lacunes et désolé d’avance ! »

Désolé d’avance ? Toto, j’ai l’impression qu’on n’est pas dans le aller vite, casser des choses ère plus!

En ce qui concerne les cycles de battage médiatique technologique, l’époque de la manie des gadgets semble maintenant tout à fait pittoresque en comparaison ; avec chaque nouveau développement hors de la Silicon Valley, la tâche des médias, des premiers utilisateurs et des experts nécessite désormais une confrontation constante avec les dommages connus de l’industrie ainsi qu’avec les problèmes anciens de la civilisation qui continuent de défier un correctif système rapide à résoudre. Les chatbots d’IA ont échoué au test de reniflement beaucoup plus rapidement que les prophéties autrefois utopiques des médias sociaux, du Web3, de la réalité virtuelle et de ses semblables, ce qui devrait sembler être une bonne chose. Pour ceux d’entre nous dont la vie quotidienne est continuellement façonnée par ces seigneurs de la technologie, c’est une chose d’être guidé dans la courbe d’adoption de la dernière chose brillante que vous ne comprenez qu’à moitié ; c’en est une autre d’entendre ce qui vient et de ressentir un désespoir immédiat.