Le Microsoft

Les grands esprits de l'intelligence artificielle s'inquiètent de la technologie même qu'ils créent.

"Au fur et à mesure que cette technologie progresse, nous comprenons que les gens s'inquiètent de la façon dont cela pourrait changer notre façon de vivre. Nous aussi", déclare Sam Altman.

Deux des plus grandes entreprises technologiques au monde, Microsoft et Google, mettent en garde contre les dangers d'un développement non réglementé de l'IA. En même temps, ils s'affrontent pour pousser l'IA dans leurs produits les plus populaires.

"Cette technologie n'a rien de la complexité de la compréhension humaine, mais elle nous affectera profondément dans la manière dont elle sera déployée dans le monde", déclare Sarah Myers West.

Alors, comment cela pourrait-il nous changer ?

Aujourd'hui, On Point : La guerre Microsoft-Google AI.

Dina Bass, journaliste technique et IA pour Bloomberg News.

Will Knight, rédacteur principal pour WIRED, couvrant l'intelligence artificielle.

Sarah Myers West, directrice générale de l'AI Now Institute, qui étudie les implications sociales de l'intelligence artificielle.

MEGHNA CHAKRABARTI : Voici une autre lettre ouverte du monde des développeurs d'IA mettant en garde contre l'IA qu'ils développent. Bien que celui-ci soit moins une déclaration et plus une seule phrase.

"Atténuer le risque d'extinction de l'IA devrait être une priorité mondiale aux côtés d'autres risques à l'échelle de la société tels que les pandémies et la guerre nucléaire."

CHAKRABARTI : La déclaration est hébergée par le Centre pour la sécurité de l'IA et signée par des politiciens et des scientifiques, y compris des chercheurs à la pointe de la technologie de l'IA. Donc, tout d'abord, lorsque les technologues demandent littéralement à plusieurs reprises une réglementation, nous, le public et nos représentants politiques devrions les écouter et faire quelque chose parce qu'ils disent qu'ils ne peuvent pas s'autoréguler.

Et lorsqu'il s'agit de technologie qui change la civilisation, il ne faut probablement pas compter sur les gens de la technologie pour s'autoréguler. Parce que ce sont les citoyens, la civilisation, c'est-à-dire le reste de l'humanité, qui devraient avoir leur mot à dire sur la façon dont cette même civilisation devrait être changée. Ou du moins je le pense.

Le monde de la technologie dit également qu'il ne s'autorégulera pas. Parce qu'il y a plus qu'un petit bavardage des deux côtés de leur bouche, n'est-ce pas ? D'une part, le PDG de Google DeepMind, Demis Hassabis, et le directeur scientifique de Microsoft, Eric Horvitz, font partie des signataires des lettres d'avertissement. D'autre part.

SATYA NADELLA : L'ère de l'IA est arrivée et Microsoft la propulse.

CHAKRABARTI : C'est le PDG de Microsoft, Satya Nadella, qui a annoncé plus tôt cette année que même si son entreprise met en garde contre les dangers d'une IA non réglementée, son entreprise intègre également de nouvelles technologies d'IA dans presque tous les aspects de la portée massive des produits de Microsoft.

NADELLA : Nous assistons à des améliorations non linéaires de la capacité des modèles de fondation, que nous mettons à disposition sous forme de plates-formes. Et alors que les clients sélectionnent leurs fournisseurs de cloud et investissent dans de nouvelles charges de travail, nous sommes bien placés pour saisir cette opportunité en tant que leader de l'IA.

CHAKRABARTI : Par exemple, Microsoft dispose désormais d'un outil d'IA générative dans son moteur de recherche Bing. Pour ne pas être en reste, Google, également signataire de cette lettre d'avertissement, pousse fort dans l'IA générative. Le PDG de Google, Sundar Pichai, a déclaré à 60 Minutes de CBS :

SUNDAR PICHAI : Cela aura un impact sur tous les produits de toutes les entreprises. Et c'est pourquoi je pense que c'est une technologie très, très profonde. Et nous n'en sommes qu'aux premiers jours.

CHAKRABARTI : Et le mois dernier, la vice-présidente de l'ingénierie de Google, Cathy Edwards, a annoncé que la société déployait l'IA générative dans le moteur de recherche le plus populaire au monde. Google Search, qui détient 80 % du marché mondial de la recherche, 99 000 recherches par seconde, plus de huit milliards et demi de recherches chaque jour.

CATHY EDWARDS : Ces nouvelles capacités d'IA générative rendront la recherche plus intelligente et plus simple. Et comme vous l'avez vu, cela est vraiment particulièrement utile lorsque vous devez donner un sens à quelque chose de complexe avec plusieurs angles à explorer. Vous savez, ces moments où même votre question a des questions.

CHAKRABARTI : Google, Microsoft et l'IA. Ces deux entreprises sont si grandes, si conséquentes que leur poussée publique quasi simultanée vers l'IA générative est appelée la guerre de l'IA Microsoft-Google. Et cela, bien sûr, soulève la question de savoir exactement quel sera l'impact de cette guerre sur vous et sur tous les autres êtres humains ? Eh bien, Dina Bass nous rejoint maintenant. Elle est technicienne et journaliste pour Bloomberg News qui a couvert Microsoft pendant 20 ans, et elle nous rejoint depuis Seattle. Dina, bon retour dans l'émission.

EN BASSE : Salut, Meghna.

CHAKRABARTI : Will Knight est également avec nous aujourd'hui. Il est rédacteur en chef pour WIRED et couvre l'intelligence artificielle, et il nous rejoint ici en studio. Bienvenue sur Point.

WILL KNIGHT : Bonjour. Merci de m'avoir.

CHAKRABARTI: Donc, tout d'abord, je veux juste avoir une idée de vous deux pour savoir si ce cadrage de la guerre Google Microsoft AI est précis, car il semble de l'extérieur assez significatif qu'au moins dans la recherche, nous ayez ces, vous savez, deux annonces presque simultanées de ces deux sociétés. Alors, Dina, est-ce une grande guerre entre les deux ?

BASS : Il y a définitivement une forte concurrence entre les deux. Je pense que le genre d'assistant derrière le rideau que vous laissez ici est Open AI, qui, fondamentalement, la technologie Microsoft en son cœur est la technologie d'OpenAI. Ce que nous envisageons, c'est que Microsoft adopte une technologie d'intelligence artificielle ouverte et de génération d'images. Il écrit également du code dans chacun de ses produits.

Et parce que Microsoft a été un peu plus rapide pour sortir certaines de ces choses, cela a semblé mettre Google un peu en retrait, même si bon nombre de ces technologies ont en fait été inventées et mises au point chez Google. Et donc, en conséquence, cela s'est transformé en une sorte de, vous savez, Google essayant d'attraper Microsoft même si ce n'est que le début.

Mais je pense que cela laisse également de côté beaucoup d'autres entreprises, beaucoup d'autres startups, beaucoup de travaux open source qui pourraient finir par dépasser les deux. Vous savez, il y a quelques semaines, il y a eu une fuite d'un mémo d'un ingénieur de Google disant qu'OpenAI et Google n'ont pas de fossé et seront dépassés par le travail open source. Donc le cadrage est correct. Mais il se passe aussi beaucoup plus de choses.

CHAKRABARTI : Bien. Nous y viendrons. Nous en aborderons beaucoup plus dans quelques minutes. Mais je dois dire, étant donné la portée et la taille de ces deux entreprises, je veux me concentrer un peu plus longtemps sur la façon dont leur poussée vers l'IA et plus particulièrement l'IA générative va nous affecter tous. Alors Will, même question pour vous. Je veux dire, est-ce une sorte de nouveau front dans la compétition qui dure depuis un an entre Microsoft et Google ?

KNIGHT : Je dirais oui, absolument. Je veux dire, comme le dit Dina, vous savez, c'est définitivement une nouvelle ère de concurrence entre les deux, motivée par ce qui est un pas en avant assez profond dans certaines des capacités de l'IA dirigées par ces modèles comme GPT. Et il y a encore des tonnes et des tonnes de limitations.

Mais chaque fois qu'il y a un grand changement technologique, nous l'avons déjà vu avec Internet, avec le mobile. Les grandes entreprises voient une opportunité de prendre de l'avance les unes sur les autres et craignent peut-être aussi de prendre du retard.

CHAKRABARTI: Nous avons maintenant entendu Sundar Pichai et Satya Nadella. Les PDG des deux sociétés disent essentiellement que cela va transformer tout ce qu'ils font. Quand un PDG dit ça, j'ai tendance à le croire. Mais Will, je veux dire, voyez-vous la même chose que cela va transformer Microsoft et Google ? Peut-être pas tel que nous le connaissons, mais comment fonctionnent-ils et que font-ils ?

CHEVALIER : Je pense absolument. Je veux dire, vous savez, nous devrions aussi, vous savez, nous méfier qu'il y ait des limites. Cette technologie se précipite très rapidement. Il y a des problèmes avec ça. Mais je le considère comme quelque chose d'aussi fondamental qu'un logiciel. Et nous l'avons vu avec l'ère précédente de l'IA. L'apprentissage automatique a transformé tant de produits, tant d'entreprises. Et ce que c'est, c'est une sorte de changement radical, vraiment un changement assez important, dans ce que vous pouvez potentiellement faire avec l'apprentissage automatique.

Nous le voyons principalement dans ces robots de discussion et la génération d'images, mais cela représente une sorte de nouvel ensemble de fonctionnalités que vous pouvez donner aux ordinateurs. Et ils sont très polyvalents. Alors oui, ils vont, je pense essayer de l'appliquer partout. Il peut y avoir de nombreux problèmes en cours de route.

CHAKRABARTI : D'accord, Dina, ce qui me fascine vraiment, c'est, vous savez, dans la foulée de ChatGPT, l'un des premiers types de points d'accès publics que les gens ont à Microsoft et à l'utilisation de l'IA générative par Google via la recherche. Droite? Et comme les recherches, comme littéralement tout le monde utilise la recherche tout le temps, tous les jours. Avez-vous utilisé la recherche alimentée par l'IA sur Bing ?

BASS : Je l'ai fait et il est intéressant que vous le souligniez, car il y a encore quelques mois, la recherche était vraiment un coin endormi d'Internet en termes de concurrence. Je veux dire, en fait, je ne peux pas imaginer que vous pensiez que nous parlerions de Microsoft et de Google relançant la bataille de la recherche que Microsoft a pratiquement perdue il y a dix ans. Je veux dire, ce n'est pas un domaine que nous pensions être mûr pour l'innovation. Je l'ai utilisé.

C'est beaucoup mieux avec des questions ouvertes similaires à ChatGPT. Il peut, vous le savez, générer du contenu, du contenu ludique, des recettes, des listes de courses, mais aussi répondre à des questions plus ouvertes. Si vous essayez de savoir quels produits acheter ou où voyager.

Mais comme le souligne Will, cela fait beaucoup d'erreurs, les deux sociétés essaient de contourner cela en ayant des citations, vous pouvez cliquer et voir d'où viennent les données et détecter l'erreur. Je ne sais pas si les utilisateurs vont le faire. Le terme de l'art pour ces erreurs, entre guillemets, est hallucinations. C'est ce qu'il semble être. Cela semble être un euphémisme pour, si je peux le dire poliment à la radio, inventer des trucs. C'est donc toujours un problème.

CHAKRABARTI : Êtes-vous prêts pour une démo en direct ?

Devrions-nous essayer cela? Parce que j'ai Microsoft Edge ouvert ici devant moi, qui, soit dit en passant, fait intéressant, si j'ai bien compris, vous ne pouvez pas utiliser la recherche alimentée par Bing AI dans un autre navigateur.

… Alors je l'ai ici. Ouvert devant moi. Je n'ai aucune idée de ce qui va se passer. Eh bien, en quelque sorte, parce que j'ai déjà posé cette question, mais c'est ma question préférée pour les voyages d'été. Et c'est assez ouvert. Dina, je vais demander à la recherche Bing AI. Pourquoi les voyages en avion sont-ils si horribles ? C'est assez ouvert, Dina ?

BAS : Bien sûr.

CHAKRABARTI : OK, alors ici, entrez. Et c'est penser. Oh, ce n'est pas si rapide, d'accord ? Ça va toujours. Est-ce normal? Ouais.

KNIGHT : Eh bien, ce qui s'exécute en arrière-plan est un réseau de neurones géant qui essaie de trouver la réponse. C'est donc assez différent d'une recherche régulière.

CHAKRABARTI : Oh, d'accord. Le voici avec la réponse. Ouah. C'est une longue réponse. Il indique qu'il existe plusieurs raisons pour lesquelles les voyages en avion peuvent être désagréables. Selon un article commercial de CNN, une raison inclut le manque de pilotes et d'agents de bord. D'accord, c'est vrai, surtout du côté des pilotes. Il y avait une pénurie de pilotes.

Inquiétudes concernant les règles de vaccination, moins de sièges, augmentation des tarifs, nombre de passagers indisciplinés et mécontents. Ensuite, il cite Investopedia et un article du Time sur la douleur induite par la pandémie après l'arrêt de l'industrie du transport aérien et a maintenant du mal à rattraper la demande croissante. J'espère que ça aide. D'accord. Maintenant, si je ne connaissais rien à l'industrie du transport aérien, je dirais que ces réponses ont du sens. Mais cela laisse de côté des causes massives et massives.

KNIGHT : … Ce qu'il fait, c'est prendre une énorme quantité de choses sur le Web, puis essayer de deviner ce qui serait une réponse plausible, pas nécessairement la bonne réponse.

CHAKRABARTI : … Avez-vous des inquiétudes quant au fait que ces produits soient déployés aussi rapidement qu'ils le sont pour que tout le monde puisse les utiliser ?

BASS : Mesdames et messieurs, vous devez garder à l'esprit que vous êtes les bêta-testeurs. Ceci est expérimenté sur vous. Les entreprises vous diront que c'est nécessaire, que pour affiner, pour que ça marche bien, elles ont besoin de gros volumes de données.

CHAKRABARTI : En ce moment, je demande la nouvelle recherche assistée par moteur de recherche AI ​​de Microsoft. Devriez-vous écouter l'incroyable émission de radio et podcast intitulé On Point de WBUR ? J'ai un peu peur d'appuyer sur Entrée, mais je le ferai, et nous parlons de la guerre Microsoft-Google AI alors que ces deux grandes entreprises commencent à déployer des technologies d'IA génératives dans leurs produits. Oh regarde. Il a répondu, il a dit :

Oui. On Point est une émission de radio et un podcast produit par WBUR à Boston. Il couvre un large éventail de sujets allant de l'économie et des soins de santé à la politique et à l'environnement. L'émission parle avec les journalistes et les gens ordinaires des problèmes les plus importants.

Donc pas d'hallucinations. D'accord. Mais en termes d'importance de l'IA pour des entreprises comme Microsoft et Google et donc pour nous en tant qu'utilisateurs de leur technologie. Voici ce que le PDG de Google, Sundar Pichai, a déclaré à CBS 60 Minutes.

PICHAI : J'ai toujours considéré l'IA comme la technologie la plus profonde sur laquelle l'humanité travaille, plus profonde que le feu ou l'électricité ou tout ce que nous avons fait dans le passé. Pourquoi donc? Cela touche à l'essence de ce qu'est l'intelligence, de ce qu'est l'humanité. Vous savez, nous développons une technologie qui sera certainement un jour bien plus performante que tout ce que nous avons jamais vu auparavant.

CHAKRABARTI: Et voici le PDG de Microsoft, Satya Nadella, en conversation le mois dernier avec Andrew Ross Sorkin, parlant du fait qu'il convient que l'IA pourrait évoluer, je cite, trop vite, mais pas de la manière dont certaines personnes le pensent.

NADELLA : Il y a déjà beaucoup de technologie, beaucoup d'IA à grande échelle, n'est-ce pas ? Chaque fil d'actualité, chaque type de recherche de flux de médias sociaux tels que nous les connaissions auparavant… ils sont tous sur l'IA. Et si quoi que ce soit, les boîtes noires, je les décrirais comme l'ère du pilote automatique. Donc, de manière intéressante, nous passons de l'ère du pilote automatique de l'IA à l'ère du copilote de l'IA. Donc si quelque chose, je sens, oui, ça bouge vite, mais ça bouge vite dans la bonne direction.

CHAKRABARTI : Nous avons beaucoup parlé d'une sorte de Microsoft. Mais je veux juste passer rapidement à Google. Pouvez-vous décrire en quelque sorte, j'ai senti qu'ils étaient entre les deux à peu près en tête sur l'IA, si c'est une déclaration exacte depuis un certain temps.

CHEVALIER : Oui, absolument. Ils ont inventé beaucoup de choses qui ont conduit à certains de ces sauts en avant, mais ils ont hésité à publier certaines choses parce qu'ils pourraient mal se comporter, ce que nous voyons maintenant. Et donc ils ont été un peu aveuglés par ce que Microsoft, l'OpenAI fait en publiant certains de ces grands modèles de langage et, vous savez, en montrant ce que vous pourriez potentiellement faire avec la recherche.

Et donc il y a eu cette grande panique à l'intérieur de Google, semble-t-il, où ils étaient soudainement comme, nous devons nous rattraper. Nous devons tout jeter là-dessus. Ils ont fusionné leurs deux unités d'IA différentes, Google et DeepMind. Et maintenant Demis Hassabis, comme vous l'avez mentionné, est le chef de file de ces deux. Et c'est en quelque sorte l'un de ces grands moments comme la vague Internet dont Bill Gates a parlé il y a des années, où ils ont soudainement réalisé que nous devions nous rattraper.

CHAKRABARTI: J'ai vu un article dans le New York Times qui disait, vous savez, il y avait des mémos, je pense, qui circulaient. Je ne me souviens plus si c'était au sein de Google ou de Microsoft. Mais cela dit, vous savez, cette course pourrait être gagnée ou perdue en quelques semaines.

BASS : Cela aurait pu être Google. Ce n'est pas ce que j'entends de Microsoft. C'est critique, le cas échéant, et c'est peut-être parce qu'ils ont l'impression d'être en tête. Quand j'ai demandé à Satya Nadella qu'il s'était beaucoup concentré sur le fait qu'il s'agissait d'une première piste, pas d'un permanent. Être très conscient du fait que de nombreux marchés sont perturbés, y compris certains de ceux dont Microsoft a besoin.

Et, vous savez, nous nous sommes beaucoup concentrés ici sur le chat, mais l'un des autres vecteurs majeurs pour ajouter l'IA et pour la concurrence autour de cela va être à nouveau les logiciels de bureau entre Microsoft et Google. C'est une chose pour Microsoft d'expérimenter Bing, qui détient environ 2% de part de marché. C'est une autre chose pour eux de commencer à mettre d'importants assistants d'IA dans leurs produits de bureau, qui sont, vous savez, le produit dominant phare, et ils le font, bien qu'ils le déploient un peu plus soigneusement et un peu plus lentement que peut-être le Bing trucs.

CHAKRABARTI : D'accord. L'époque de Clippy est donc révolue, c'est ce que vous dites.

BASS : Peut-être que c'est aussi Clippy. Je veux dire, il y avait un mème qui circulait. Je pense que c'était probablement vers le 4 mai… c'était un peu comme, vous savez, Clippy, je suis ton père, une sorte de mème impliquant Bing. Je veux dire, c'est ce qu'à un certain niveau, c'est la réalisation de ce que Microsoft voulait faire avec Clippy et de ce qu'il voulait faire vers 2016 avec son type de stratégie d'IA conversationnelle qu'ils ont déployée et qui n'a pas vraiment abouti. l'époque parce que la technologie n'était pas très bonne à l'époque.

CHAKRABARTI : D'accord. Eh bien, tout va bien. Pour en revenir un instant à la note de service que je citais, j'ai ici l'article du New York Times. Et ils disent que Sam Schillace, responsable de la technologie chez Microsoft, avait écrit dans un e-mail interne, que le Times dit avoir consulté. Et dans cet e-mail, Schillace a déclaré que c'était absolument, entre guillemets, une erreur absolument fatale en ce moment de s'inquiéter de choses qui peuvent être corrigées plus tard.

Et que le passage soudain à un nouveau type de technologie était essentiel car, comme l'écrit Schillace dans ce mémo, encore une fois, vu par le New York Times, la première entreprise à introduire un produit est le gagnant à long terme. Juste parce qu'ils ont commencé en premier. Parfois, la différence se mesure en semaines. Dina, puisque c'est vous qui couvrez directement Microsoft, comment cela vous semble-t-il ?

BASS : Écoutez, évidemment, Microsoft évolue très rapidement ici. Et je veux dire, pas une semaine ne s'est écoulée sans qu'ils n'introduisent un nouveau produit d'IA. Et cela soulève la question avec laquelle vous avez commencé l'émission, autour de s'ils sont si préoccupés par les impacts que cela pourrait être, pourquoi continuer à le déployer à grande vitesse?

Vous savez, nous savons que l'entreprise a agi très rapidement, vous savez, pour essayer de sortir ces choses. Mais encore une fois, ce que j'entends de leur part, c'est qu'ils ne croient pas que le fait d'avoir introduit les choses en premier signifie qu'ils sont les gagnants. Ils estiment qu'il y a beaucoup de potentiel de perturbation ici. Et, vous savez, nous avons mentionné le bureau. Il y a aussi des problèmes de perturbation autour du cloud.

CHAKRABARTI : Autour du nuage. D'accord. Alors accrochez-vous à cette pensée juste un instant, parce que nous avons juste un peu de bande ici. Vous avez parlé des autres produits de Microsoft. Et donc, lors d'un événement en mars appelé l'avenir du travail avec l'IA, Microsoft a présenté le copilote, ou nous l'appellerons ici dans cette conversation, Clippy 2.0. Il s'agit d'une fonctionnalité d'assistant IA pour Microsoft 365.

Copilot combine la puissance des grands modèles linguistiques avec vos données dans le graphique Microsoft et les applications Microsoft 365 pour transformer vos mots en l'outil de productivité le plus puissant de la planète.

CHAKRABARTI : Will, pensez-vous que Google déploiera également l'IA dans ses produits au-delà de la recherche ?

KNIGHT : Oui, en fait, ils ont déjà commencé à le faire sur Google IOS. Ils ont démontré des choses similaires à ce que nous voyons avec Office où cela vous aidera à écrire, à rédiger un document, à générer un e-mail, à entrer dans des feuilles de calcul et à faire des choses pour vous.

CHAKRABARTI : D'accord. Donc, vous savez, vous avez tous les deux soulevé une question intéressante qui, évidemment, vous savez, les produits dans lesquels ces choses sont déployées ne sont que la partie superficielle de l'histoire. Ce qui est vraiment, je pense, plus profond, c'est quand les gens parlent de cela aussi fondamental que le logiciel. … Dans quelle mesure l'activité frénétique que nous constatons actuellement entre Google et Microsoft concerne-t-elle davantage la possibilité qu'ils soient les leaders de cette nouvelle technologie, de l'IA générative et de son utilisation ?

KNIGHT : Je pense qu'une grande partie est à ce sujet. Et ce que j'entends de personnes à l'intérieur de certaines de ces entreprises, c'est que parfois les dirigeants n'écoutent même pas, vous savez, les technologues et ceux qui ont des inquiétudes à leur sujet. Ils sont donc désespérés de sortir ces trucs et de prendre une longueur d'avance sur ce qu'ils considèrent comme une technologie fondamentale qui va en quelque sorte être déployée sur des milliards d'ordinateurs.

CHAKRABARTI : Et Dina, que pensez-vous de cette question ?

BASS : Je pense que c'est juste. Et ils font un peu de danse entre dire que nous essayons d'être prudents et nous savons que ces produits ne fonctionnent pas parfaitement, et nous voulons que vous sachiez comment ils ne fonctionnent pas. Mais en voici un autre et en voici un autre. Et tu devrais essayer ça, et au fait, tu devrais nous réglementer. C'est un peu essayer de faire un peu de claquettes.

CHAKRABARTI : Revenons à la recherche, simplement parce que je pense que c'est le point de contact que les gens comprendront le plus intrinsèquement. Comment pensez-vous que ce que font Google et Microsoft va changer la façon dont les gens utilisent la recherche ou les informations qu'ils en obtiennent ?

KNIGHT : Oui, je pense que cela reste à voir. Je veux dire, quand j'essaie d'utiliser cette recherche générative, c'est incroyable pour moi d'avoir quelque chose qui va halluciner. Maquiller des trucs, non ? Ce n'est pas ce que nous attendons d'un moteur de recherche. Et je pense qu'il reste encore à voir si ça va être vous savez, les avantages dépasseront complètement les limites. Sans aucun doute, je pense que cela va en quelque sorte se glisser dans la recherche, mais peut-être pas simplement la supplanter complètement.

CHAKRABARTI : Oui. Vous savez, nous avons entendu un peu plus tôt dans cette bande de la sortie par Google de leur recherche activée par l'IA, Cathy Edwards parlait, Oh, cela peut être particulièrement utile pour vos questions qui ont aussi des questions. À quoi pensez-vous qu'elle veut en venir ?

KNIGHT : Je pense qu'elle parle de questions de suivi où vous demanderez quelque chose. Vous avez la possibilité de poser une question de clarification, par exemple, sur le chat Bing ou le chat bot de Google. Vous pouvez donc en quelque sorte entrer dans ce dialogue plus humain avec ces choses. Mais cela soulève également une tonne de problèmes dans mon esprit parce que vous anthropomorphisez ces choses à un niveau qu'elles ne justifient pas et cela cause beaucoup de confusion et peut… conduire les gens à mal interpréter ce dont ils parlent à et il peut dire des choses qui semblent très bizarres.

CHAKRABARTI : Nous allons donc aborder davantage ces hallucinations et ces préoccupations dans une minute ici. Mais, Dina, vous savez, vous aviez mentionné un peu plus tôt que, vous savez, n'est-il pas surprenant qu'une fois de plus, nous parlions de Microsoft contre Google. Pour autant que je sache, cependant, ils avaient pendant au moins un certain temps vers 2015, conclu une sorte de trêve juridique et réglementaire. Le décririez-vous ainsi ?

BAS : Ouais. Il y a eu une sorte de détente formelle entre les deux sociétés. Ce n'était pas qu'ils ne concourraient pas. Ils rivalisaient encore très vigoureusement. Encore une fois, d'autant plus que Google essaie de prendre plus d'affaires à Microsoft dans le domaine du bureau et de la productivité. Mais ce qu'ils ont convenu de faire, c'est de ne pas se plaindre les uns des autres auprès des régulateurs. Cela s'est effondré ces dernières années. Ils se sont tous les deux plaints avec véhémence auprès des régulateurs. Et donc ça ajoute une autre dimension. Alors que nous regardons cette bataille d'IA, une autre dimension de l'hostilité entre les deux sociétés.

D'accord, alors, Dina, et nous allons rester ici juste une seconde parce que je veux amener Sarah Myers West dans la conversation. Elle est directrice générale de l'AI Now Institute, qui étudie les implications sociales de l'intelligence artificielle. Bienvenue à On Point, Sarah.

SARAH MYERS WEST : Merci de m'avoir invité.

CHAKRABARTI: Alors que j'ai présenté l'émission, nous avons à la fois, vous savez, des personnes très expérimentées chez Microsoft et Google parmi les signataires d'une autre lettre d'avertissement sur l'IA disant que cela pourrait être une menace existentielle. Nous devons être réglementés. Ensuite, comme Dina et nous l'aurons très soigneusement aménagé pour nous, ils poussent toujours ces produits que des milliards de personnes utilisent chaque jour, sachant que parfois ces produits d'IA génératifs dans la recherche hallucinent, ce qui sera mon effrayant préféré mot de la semaine ici. Je veux dire, n'est-ce pas un peu irresponsable pour ces entreprises de faire ça, Sarah ?

MYERS WEST: Je veux dire, il semble que nous soyons de retour dans l'ère de la technologie. Où ils expérimentent essentiellement dans la nature avec ces technologies, même s'ils reconnaissent eux-mêmes qu'ils ne sont pas vraiment, vous savez, entièrement validés ou testés ou prêts pour le marché.

Je veux dire, Dana a parfaitement dit que nous sommes tous des bêta-testeurs pour cela, mais c'est quelque chose de tester en bêta une nouvelle version d'un système d'exploitation. Ou des tests bêta, je ne sais pas, une nouvelle application ou la dernière version de Word. C'est quelque chose de complètement différent de tester en bêta un produit qui vous donne en retour des informations dont vous ne pouvez pas être sûr qu'elles sont véridiques ou non.

Et c'est un produit sur lequel vous comptez pour vous donner des réponses véridiques. Je veux dire, ça me semble plus que jouer un peu avec le feu. Je veux dire, y a-t-il des systèmes en place pour amener les entreprises à réfléchir davantage à cela dans le monde de l'IA avant de déployer les produits ?

MYERS WEST : C'est une très bonne question. Et ces entreprises sont conscientes de ces préoccupations depuis longtemps, mentionnera déjà que Google travaille sur la technologie sous-jacente depuis 2015 et hésite à la déployer en raison de ces risques. OpenAI travaille également sur cette technologie depuis un certain temps. Et si vous vous souvenez en 2019, quand ils étaient sur le point de sortir le modèle GPT-2, qui est en quelque sorte le précurseur de GPT-4, le moteur qui alimente ChatGPT, OpenAI a déclaré que c'était trop dangereux pour une diffusion publique et nous allons retenir.

Maintenant, il a changé d'avis à ce sujet. Mais vous savez, si vous regardez en arrière à ce moment-là, ils exprimaient bon nombre de ces mêmes préoccupations concernant le risque de fraude, de propagation de la désinformation, les risques de cybersécurité. Et ces risques sous-jacents n'ont manifestement pas disparu. Ce qui, à mon avis, est vraiment essentiel à ce moment-ci, c'est que les régulateurs et les organismes d'application sont très clairs sur le fait qu'ils ont l'intention d'appliquer la loi existante à ces systèmes.

Et il y a un cadre assez clair sur la façon dont ces règles s'appliquent. Des choses comme les autorités de la FTC sur la tromperie, par exemple, ont dit assez clairement que ce n'est pas correct, même si ce n'est pas l'intention du système. Si vous produisez quelque chose qui permet la fraude à grande échelle, cela enfreint la loi.

CHAKRABARTI: Donc, je veux dire, si c'est aussi clair que cela, il semblerait que ces produits violent la loi en ce moment parce qu'ils diffusent des informations qui ne sont pas toujours exactes.

MYERS WEST : Je veux dire, cela soulève la question de savoir pourquoi les entreprises seraient prêtes à mettre en place des systèmes qui pourraient très bien être illégaux ou pourquoi il n'y a pas suffisamment de garde-corps, à tout le moins, pour empêcher ce genre de comportement.

CHAKRABARTI : Will, permettez-moi de vous poser une question ici. Cela fait partie du genre d'envie irrésistible de sortir ces produits, même lorsqu'il semble y avoir une discussion assez vigoureuse au sein de Microsoft et de Google pour savoir s'ils le devraient ou non. Y a-t-il une envie irrésistible que pour que ces grands modèles de langage s'améliorent, ils aient besoin de plus d'informations ? Et la meilleure façon de le faire est de les lâcher sur les gens.

CHEVALIER : C'est un excellent point. Et c'est en fait une très grande raison pour laquelle ils se précipitent autant. L'une des raisons pour lesquelles ces modèles sont si bons est qu'ils ont été affinés en fonction des commentaires des utilisateurs. Donc s'ils pensent que c'est une bonne réponse, une mauvaise réponse. Et vous pouvez embaucher des personnes pour le faire, ou vous pouvez le faire par l'intermédiaire d'utilisateurs. Donc, oui, l'un des avantages de Microsoft OpenAI est qu'ils ont cette énorme base d'utilisateurs… et ils ne vont pas ralentir en quelque sorte parce qu'ils s'appuient sur cet avantage.

CHAKRABARTI : Vous pouvez imaginer que, vous savez, disons Google avec plus de 8,5 milliards de recherches par jour, même si une petite fraction de ces recherches est effectuée via leur recherche activée par l'IA, cela représentera une énorme quantité d'informations.

KNIGHT : … Plus vous pouvez obtenir de données des utilisateurs, plus vous pouvez les alimenter, mieux c'est.

CHAKRABARTI : Écoutons donc un peu plus certaines grandes voix du monde de l'IA. Vous avez probablement entendu parler ces dernières semaines d'un homme du nom de Geoffrey Hinton. Il est considéré comme l'un des trois parrains de l'IA qui était chez Google jusqu'à sa démission le mois dernier.

GEOFFREY HINTON : Ce dont j'ai parlé principalement, c'est ce que j'appelle la menace existentielle, c'est-à-dire la possibilité qu'ils deviennent plus intelligents que nous et qu'ils nous succèdent. Ils prendront le contrôle.

CHAKRABARTI : C'est donc Geoffrey Hinton. Il y a aussi Sam Altman. Il est le PDG d'OpenAI, et il s'est récemment adressé au New Yorker Radio Hour et a partagé une question fondamentale à laquelle il réfléchit. L'IA est-elle un outil ou une créature ?

SAM ALTMAN: Ce qu'est ce système, c'est un système qui prend du texte, fait des statistiques compliquées dessus et sort un peu plus de texte. Et un comportement émergent étonnant peut en découler. Comme nous l'avons vu, cela peut influencer considérablement la pensée d'une personne. Et nous avons besoin de beaucoup de contraintes à cet égard. Mais je ne crois pas que nous soyons sur la bonne voie pour construire une créature ici. Maintenant, les humains peuvent vraiment abuser de l'outil de manière très importante, et cela m'inquiète beaucoup. Bien plus que je ne m'inquiète actuellement, le genre de trucs de science-fiction de cette chose, vous savez, se réveille et perd le contrôle.

CHAKRABARTI: Alors Sarah Myers West, répondez à ce que dit Sam Altman là-bas, parce que, bien sûr, ce sont en quelque sorte les avertissements existentiels qui attirent tous les gros titres, y compris notre attention. Mais qu'il y a tout un autre monde de préoccupations qui viendraient avant le scénario de perte de contrôle auquel nous ne pensons peut-être pas assez.

MYERS WEST : Absolument. Vous savez, ce clip m'a juste rappelé cette très bonne interview que j'ai lue ce week-end avec l'écrivain de science-fiction Ted Chiang, où on lui a demandé, vous savez, qu'utiliseriez-vous pour décrire l'IA si ce n'était pas les termes AI . Et sa réponse immédiate a été des statistiques appliquées. Vous savez, il y a beaucoup de sens qui est imprégné du terme intelligence artificielle qui lui donne, vous savez, ce genre de pouvoir culturel qui nous rend tous, vous savez, excités et anxieux à propos de ses effets.

Mais ce que nous avons entendu, vous savez, un certain nombre de chefs d'entreprise dont nous avons entendu des clips aujourd'hui est un refrain cohérent à propos d'un, ce sont essentiellement des sortes de moteurs de prédiction de données et deux, qu'ils sont déjà largement utiliser. Ce qui est différent à ce moment-là, c'est qu'il existe maintenant une interface avec laquelle les gens peuvent interagir et qui donne une teneur vraiment différente à notre compréhension de l'IA.

Mais s'il s'agit essentiellement, vous savez, de mécanismes statistiques utilisés pour rechercher des modèles, une chose pour laquelle ils se sont avérés vraiment bons est de refléter et d'amplifier les modèles historiques d'inégalité sociale et ces types de modèles où nous devons nous concentrons notre plus grande attention là où l'IA est utilisée dans les soins de santé, dans l'éducation.

Si vous allez être convoqué pour un entretien d'embauche ou quel sera le taux de votre prêt hypothécaire. Ce que nous constatons constamment, c'est une tendance des systèmes d'IA à amplifier les schémas historiques de discrimination raciale, de discrimination fondée sur le sexe. Et c'est, je pense, là où nous devons nous concentrer le plus.

CHAKRABARTI: Donc, vous savez, en pensant, encore une fois, à l'appel à la réglementation ou au moins, vous savez, à une discussion plus vigoureuse sur la réglementation que ces mêmes technologues, vous savez, lancent à plusieurs reprises cette année, Dina me laisse me tourner vers vous sur quelque chose. Parce que j'imagine que nous sommes déjà dans un domaine d'un nouveau type d'inégalité, je l'appellerais l'inégalité d'information. Et nous pourrions nous diriger vers une inégalité encore plus grande sur ce front à une vitesse hyper rapide.

D'un autre côté, si les régulateurs annoncent demain, disons que la FTC annonce demain, eh bien, vous savez, nous avons testé votre IA, votre recherche générative d'IA. On voit qu'il génère des informations inexactes ou des réponses hors contexte ou hallucinantes. Et c'est clairement enfreindre la loi.

Nous allons vous empêcher de l'utiliser. Nous allons dire que vous ne pouvez pas avoir ce produit dans le monde en ce moment. Vous savez, même si Microsoft dit, hé, peut-être devrions-nous réglementer l'IA. Dina, je veux dire, Microsoft a aussi historiquement et Google, soyons honnêtes, a fait tout ce qui était en son pouvoir pour lutter contre tout type de réglementation contre ces mêmes entreprises. Je veux dire, comment réagiraient-ils s'ils étaient réellement réglementés sur l'IA ?

BASS : Microsoft réclame depuis plusieurs années une réglementation sur l'IA. Mais comme vous l'avez souligné, ce sont les règlements qu'ils veulent. Ils veulent que ça aille jusqu'à un certain point et pas plus loin. Mais nous avons des règlements sur la sécurité de toutes sortes de produits. Les gens utilisent souvent l'exemple d'une voiture. Vous ne permettez pas à quelqu'un de concevoir un véhicule électrique et de rouler, vous savez, dans les rues.

Et, vous savez, je veux deuxièmement que cette notion que ces systèmes d'IA ont déjà des problèmes importants autour des préjugés raciaux, autour des préjugés sexistes, les choses dont nous devons nous préoccuper en ce moment ne sont pas ce sur quoi le Dr Hinton se concentre nécessairement ce possibilité d'un pouvoir surhumain dans le futur que nous ne sommes même pas sûrs que l'IA puisse atteindre. Les problèmes sont les choses que nous voyons déjà et qui ne sont pas traitées. Vous savez, nous approchons d'une élection aux États-Unis et il y a un problème. Le souci n'est pas que vous obteniez une sorte de réponse loufoque lorsque vous lui demandez pourquoi les compagnies aériennes sont si mauvaises.

Le souci est que ce sont des outils génératifs, ce qui signifie qu'ils peuvent créer de nouveaux contenus qui peuvent être trompeurs, des deepfakes, vous savez, des images qui ne sont pas réelles. Et qu'il n'est peut-être pas possible pour les gens de dire que ces choses sont fausses. Ce sont des problèmes que, vous savez, les chercheurs et les éthiciens de l'IA soulignent depuis des années au sein d'entreprises comme Google et Microsoft.

Et ils n'ont pas eu beaucoup de succès en termes d'écoute. Pour faire exception à ce que dit le Dr Hinton, lorsqu'il était chez Google, il n'a pas soutenu des gens comme le Dr Timnit Gebru et le Dr Margaret Mitchell, qui travaillent sur ces questions d'intérêt immédiat et sur l'IA.

Cet article a été initialement publié sur WBUR.org.

Droits d'auteur 2023 NPR. Pour en savoir plus, visitez https://www.npr.org.