Si Google tue les médias d’information, qui nourrira la bête IA ?

Il existe une histoire écrite par EB White en 1935 intitulée « Irtnog » qui devient malheureusement de plus en plus pertinente à l'ère actuelle de l'IA. « Irtnog » a été écrit en réponse à la multiplication des résumés (en particulier des publications comme Reader's Digest, qui résume le journalisme de longue durée) et raconte l'histoire d'un monde où les gens s'appuient sur des versions de plus en plus condensées de livres et d'histoires jusqu'à ce que nous vivions dans une société où la compréhension nuancée et la pensée critique sont sacrifiées au profit de la commodité et de la rapidité (cela vous semble familier ? ). Dans le récit ironique de White, les gens deviennent tellement obsédés par l'efficacité qu'ils commencent à exiger des résumés de plus en plus courts de tout, jusqu'à ce qu'ils finissent par réduire des livres entiers à une seule chaîne de lettres. Ainsi vient le jour où le mot Irtnog est annoncé au public, ce qui est censé résumer toute la connaissance humaine.

Avance rapide jusqu'à aujourd'hui, et nous sommes à l'aube d'un phénomène similaire avec la nouvelle vague d'outils de synthèse d'IA lancée par OpenAI, Google et Facebook. Ces outils, bien qu’impressionnants dans leur capacité à distiller des informations, ne sont qu’à quelques pas de la création d’une réalité de type « Irtnog », où la richesse des connaissances humaines et la profondeur de la compréhension sont réduites à l’état de bouchées, et parfois dangereusement inexactes. des résumés que nos petits cerveaux peuvent consommer sur nos minuscules appareils. À titre d’exemple, Google a lancé ce mois-ci plusieurs nouvelles fonctionnalités basées sur l’IA pour son moteur de recherche. L'un des ajouts les plus notables est la fonctionnalité AI Overviews, qui fournit des résumés générés par l'IA en haut des résultats de recherche. Essentiellement, c'est une façon élégante de dire que l'IA résumera les résultats de recherche pour vous, car apparemment, lire tout ce qui n'est pas un résumé demande tout simplement trop d'efforts de nos jours.

Pour les éditeurs de presse, c’est – naturellement ! – assez inquiétant. Au cours des trois dernières décennies, les entreprises technologiques ont systématiquement contribué à siphonner les revenus publicitaires qui soutenaient autrefois un journalisme solide, les annonceurs ayant afflué vers les offres ciblées des médias sociaux et des plateformes de recherche. Dans le même temps, la prolifération de contenus d’information gratuits regroupés par les géants de la technologie (hum, Google News) a rendu de plus en plus difficile pour les médias d’attirer et de fidéliser des abonnés payants. Ainsi, le secteur de l’édition est en déclin depuis le début des années 2000, lorsque les véritables entreprises technologiques ont été séparées de la balle de la bulle Internet, les revenus des journaux ayant chuté de plus de 50 % au cours des deux dernières décennies.

Selon Pew Research, l’emploi dans les rédactions aux États-Unis a chuté de 26 % entre 2008 et 2020, les journaux étant les plus durement touchés. Près d'un tiers des journaux du pays ont cessé leurs activités depuis 2005, laissant des milliers de communautés sans source d'information locale. Selon le US Census Bureau, les revenus des magazines ont chuté de 40,5 % au cours des deux dernières décennies. Entre 2019 et 2022 seulement, l’audience totale des éditeurs de magazines a diminué de 38,56 %. Le Washington Post a récemment déclaré avoir perdu 77 millions de dollars l'année dernière. Les domaines qui se sont développés pour certains médias sont les abonnements numériques et les publicités numériques, mais désormais, avec l'IA de Google, qui crée une version CliffsNotes des reportages, moins de personnes ressentiront le besoin de cliquer sur l'article original, érodant encore davantage l'offre déjà en baisse. trafic et revenus pour les éditeurs de presse. Si les résumés générés par l’IA deviennent le principal moyen par lequel les gens consomment l’information, l’économie du journalisme pourrait en être dévastatrice.

Lorsque j'ai demandé aux gens de la Silicon Valley s'ils s'inquiétaient de cette nouvelle réalité de sites technologiques résumant tout et de nouvelles pertes d'emplois dans l'industrie de l'information, ils semblaient véritablement ravis à l'idée de quelque chose qui leur ferait gagner plus de temps et ne les obligerait pas à cliquer. via un autre site. « Je pense que quel que soit le semblant de clics auquel les éditeurs s'accrochaient, cela les pousse complètement dans le précipice, et ce n'est pas la faute de la technologie, mais la faute des éditeurs », déclare un investisseur et entrepreneur de la Silicon Valley. « La plupart des sites d'information, entre guillemets, ont déjà aliéné les lecteurs avec leur obsession d'essayer de créer du contenu en réponse à ce qui dérange Twitter ce jour-là, et donc les quelques endroits qui le font encore. réel les journalistes peuvent continuer à essayer de faire du vrai journalisme et espérer obtenir suffisamment de clics pour maintenir les lumières allumées. Pour tous les autres, les gens qui prennent un tweet et en font un article, merde, ils méritent de mourir.

L’une des grandes inquiétudes liées à la montée en puissance de ces produits AI CliffsNotes est à quel point ils ont tendance à se tromper. Vous pouvez facilement voir comment les résumés de l’IA, sans intervention humaine, peuvent fournir non seulement des informations incorrectes, mais parfois des résultats dangereusement incorrects. Par exemple, en réponse à une requête de recherche demandant pourquoi le fromage ne colle pas à une pizza, l'IA de Google a suggéré d'ajouter « 1/8 tasse de colle non toxique à la sauce pour lui donner plus de collant ». (Les utilisateurs de X ont découvert plus tard que l'IA reprenait cette suggestion d'un message Reddit vieux de 11 ans rédigé par un utilisateur appelé «fucksmith».) Un autre résultat demandait aux personnes mordues par un serpent à sonnette d'«appliquer de la glace ou de la chaleur sur la plaie». ce qui ferait autant pour vous sauver la vie que de croiser les doigts et d'espérer le meilleur. D'autres requêtes de recherche ont simplement abouti à des informations complètement incorrectes, comme celle où quelqu'un demandait quels présidents avaient fréquenté l'Université du Wisconsin à Madison, et Google expliquait que le président Andrew Jackson y avait fréquenté l'université en 2005, même s'il était décédé 160 ans plus tôt, en 1845.

Jeudi, Google a déclaré dans un article de blog qu'il réduisait certains de ses résultats de synthèse dans certains domaines et qu'il s'efforçait de résoudre les problèmes rencontrés. « Nous avons été vigilants en surveillant les commentaires et les rapports externes, et en prenant des mesures contre le petit nombre d'aperçus d'IA qui enfreignent les politiques de contenu. » Liz Reid, responsable de la recherche Google, a écrit sur le site Web de l'entreprise. « Cela signifie des aperçus contenant des informations potentiellement nuisibles, obscènes ou autrement violatrices. »

Google a également tenté d'apaiser les inquiétudes des éditeurs. Dans un autre article le mois dernier, Reid a écrit que la société avait constaté que « les liens inclus dans les aperçus d'IA obtenaient plus de clics que si la page était apparue comme une liste Web traditionnelle pour cette requête » et qu'à mesure que Google élargissait cette « expérience, nous allons continuez à vous concentrer sur l’envoi d’un trafic précieux aux éditeurs et aux créateurs.

Même si l’IA peut régurgiter des faits, elle ne dispose pas de la compréhension humaine et du contexte nécessaires à une analyse véritablement perspicace. La simplification excessive et la fausse représentation potentielle de questions complexes dans les résumés de l’IA pourraient amoindrir davantage le discours public et conduire à une dangereuse propagation de fausses informations. Cela ne veut pas dire que les humains n’en sont pas capables. S’il y a quelque chose que la dernière décennie des médias sociaux nous a appris, c’est que les humains sont plus que capables de diffuser de la désinformation et de donner la priorité à leurs propres préjugés plutôt qu’aux faits. Cependant, à mesure que les résumés générés par l’IA deviennent de plus en plus répandus, même ceux qui apprécient encore un journalisme nuancé et bien documenté pourraient avoir de plus en plus de difficultés à accéder à ce type de contenu. Si la situation économique du secteur de l’information continue de se détériorer, il sera peut-être trop tard pour empêcher l’IA de devenir le principal gardien de l’information, avec tous les risques que cela implique.

La réponse de l’industrie de l’information à cette menace a été mitigée. Certains médias ont poursuivi OpenAI pour violation du droit d'auteur, comme Le New York Times l'a fait en décembre, tandis que d'autres ont décidé de faire affaire avec eux. Cette semaine L'Atlantique et Vox sont devenus les derniers organismes de presse à signer des accords de licence avec OpenAI, permettant à l'entreprise d'utiliser leur contenu pour former des modèles d'IA, ce qui pourrait être considéré comme une formation de robots pour qu'ils acceptent des tâches encore plus rapidement. Des géants des médias comme News Corp, Axel Springer et Associated Press sont déjà de la partie. Pourtant, prouvant qu'il n'est redevable à aucun seigneur des machines, L'Atlantique a publié un article sur le « marché du diable » entre les médias et OpenAI le même jour que son PDG, Nicolas Thompson, ont annoncé leur partenariat.

Un autre investisseur avec qui j'ai parlé a comparé la situation à une scène dans Tom Stoppardc'est Arcadie, dans lequel un personnage remarque que si quelqu'un mélange de la confiture à sa bouillie en la faisant tourner dans un sens, il ne peut pas reconstituer la confiture en remuant ensuite dans le sens opposé. « Il en sera de même pour tous ces produits de synthèse », poursuit l'investisseur. « Même si vous leur dites que vous ne voulez pas qu'ils raccourcissent vos articles, ce n'est pas comme si vous pouviez en retirer votre contenu. »

Mais voici la question que je me pose. Disons simplement que Google, OpenAI et Facebook réussissent, et que nous lisons des résumés d'actualités plutôt que des informations réelles. À terme, ces médias feront faillite, et alors qui restera pour créer le contenu dont ils ont besoin pour résumer ? Ou peut-être que cela n'aura plus d'importance d'ici là parce que nous serons tellement paresseux et obsédés par un contenu plus court que l'IA choisira de tout résumer en un seul mot, comme Irtnog.