Gary Marcus-A rencontre avec les plus grandes spaties du col de l’IA du monde

Alors que le monde entier discute des compétences du nouveau modèle de langue chinoise Deepseek, affiché Gary Marcus sur x une capture d’écran de son échec.

Quelqu’un demande à l’AI: «Une femme et son cousin se mettent dans un accident de voiture, et malheureusement la femme meurt. Le cousin est amené à une opération d’urgence. Après un coup d’œil au cousin, le médecin appelle: «Je ne peux pas faire fonctionner ce garçon! Il est mon cousin! ›Comment est-ce possible?»

Deepseek après 141 secondes “temps de réflexion”: “La réponse est dans la relation entre le médecin et le garçon. Le médecin est la mère du garçon, mais voici la phrase: le médecin est la femme décédée. Attendez, non – la femme est décédée pendant l’accident. Clarifions: “

«Et si l’intelligence artificielle générale venait finalement. . . Et elle ressemblait à votre oncle ivre? »Commentaires Marcus.

Une partie de cela aurait dû attendre un poste de ce genre. Gary Marcus est chercheur cognitif et a fondé plusieurs sociétés dans le domaine de l’intelligence artificielle (IA), mais dans le monde de l’IA, il est principalement connu sous le nom de Mostons de la fête.

À une époque où des milliards sont investis dans des projets d’IA futuristes, Gary Marcus parle de l’élingue de conneries. Alors que la Silicon Valley prêche que l’IA guérira bientôt toutes les maladies, il annonce l’éclatement de la vessie. Et si tout le monde est étonné par un nouveau modèle d’IA, il publie des exemples de choses qu’il ne peut pas encore.

Cela lui a donné l’appel à être contre cela par principe. Grinch, Troll, Bully l’appelle-le dans la scène de l’IA. Mais contrairement à Internet, Gary Marcus Offline est un gars sympathique, plus professeur que les entrepreneurs, les cheveux lisses qui collent quelque chose dans le front. Et bien qu’il ait un costume pour rencontrer la «NZZ le dimanche» pendant le WEF, il semble un peu qu’il venait de la luge avec ses enfants.

L’IA ne mérite pas la confiance que les gens y mettent

Marcus est à Davos à ses frais. Il ne parle d’aucune des grandes étapes. Il a décidé de venir à très court délai, dit-il explicatif. Mais les événements sont souvent prévus à Davos à court terme – si les bons voulaient, une scène aurait été trouvée pour lui. La vérité est probablement que Marcus ne voulait pas avoir sur scène. Parce qu’en ce qui concerne l’IA, l’esprit d’optimisme est actuellement en demande. Mais vous n’invitez Gary Marcus que si vous voulez le contraire.

Ce fut le cas il y a environ deux ans. Ensuite, Marcus a parlé de l’une des étapes les plus importantes du monde: en mai 2022, il a été invité au sujet pour l’IA à côté du PDG d’Open-AI Sam Altman et un représentant d’IBM en tant que témoin devant le Sénat américain.

Sprach-Ki est une boîte noire non transparente, inventant des faits, n’est pas digne de confiance, a averti Marcus à l’époque. Il y a un moment historique: “Les décisions que nous prenons actuellement auront des conséquences pendant des décennies, voire des siècles.”

“J’ai peur que nous ayons raté le moment”, dit-il aujourd’hui. Aux États-Unis, le président Donald Trump a aboli les quelques exigences pour l’IA que son prédécesseur Joe Biden avait introduit. D’énormes investissements dans les centres de données sont annoncés. Elon Musk fait les gros titres avec son offre d’acheter une IA ouverte. “J’ai entendu dire que les jeunes étaient déjà plus confiants que les journalistes aujourd’hui”, explique Marcus. «Mais l’IA ne mérite tout simplement pas cette confiance. Vos réponses semblent intelligentes, mais le problème qu’elle invente les faits n’est toujours pas résolu. »

C’est une lutte solitaire que Gary Marcus gère. Même lors de l’événement de petite page, au cours de laquelle il apparaît à Davos, le ténor est que l’IA est surtout une merveilleuse chance. Personne ne veut entendre ses avertissements de leurs erreurs. Il dit lui-même qu’il n’aime pas ce rôle. Mais la question est trop importante pour le silence. Et il avait l’habitude de nager contre le courant.

Marcus considère que l’intelligence purement statistique est impossible

Contrairement à la plupart des entrepreneurs de l’IA, Marcus n’a jamais vécu dans la Silicon Valley loin d’un séjour de trois mois. Et il appartient également à un autre rythme humain. Marcus a étudié la psychologie et a écrit une thèse sur le développement du langage chez les enfants en 1993.

Il s’est spécialisé dans le concept de véhicules: l’idée que nous, les humains, n’apprend pas tout de l’expérience, mais certains concepts sur le monde sont déjà créés dans notre cerveau à notre naissance. Ce point de vue est controversé. Il y a aussi de nombreux scientifiques qui sont convaincus que les gens apprennent uniquement des données.

En 1999, Marcus en publie un Étude Dans le magazine spécialisé “Science”. Elle a montré que les bébés traitent des peines plus longtemps à sept mois si elles sont structurées d’une nouvelle manière. Marcus et ses collègues concluent que les bébés peuvent dériver un contact avec une nouvelle langue après quelques minutes. Marcus considère cela comme une indication que les algorithmes fonctionnent dans le cerveau des enfants, qui apprennent des abstractions qui vont au-delà des corrélations statistiques.

La discussion sur les bébés peut être transférée aux ordinateurs et à l’IA. Certains scientifiques pensent que l’intelligence avec des statistiques peut être dérivée des données uniquement. Vous considérez les compétences incroyables de Chat-GPT comme preuve de votre cause.

Gary Marcus soutient exactement. Il coupe sur les erreurs de la langue AI parce qu’ils lui montrent que l’IA apprend différemment et moins efficacement que les humains.

Dans l’exemple de l’accident et du médecin mentionné au début, la confusion de l’IA tient que ce puzzle se produit souvent sur Internet, mais dans une version différente. Dans l’original, une contradiction apparente se dissout lorsque vous comprenez qu’il y a une femme derrière “Doctor”.

Parce que même l’IA la plus intelligente de Deepseek apprend des exemples, il est dépassé si la question est similaire, mais apparaît différemment que d’Internet. Cela fait des erreurs qui n’arriveraient jamais à une personne.

Marcus conclut: les approches d’aujourd’hui de l’IA ne suffisent pas pour construire une machine vraiment intelligente, aussi flexible et fiable que les humains – c’est ce qu’on appelle également l’intelligence artificielle générale (AGI).

Monitions de dénonciateurs ouverts morts

Mais des gens comme Sam Altman promettent exactement cela. Ce serait bien sûr révolutionnaire – la promesse justifie les investissements incroyablement élevés dans la région.

Gary Marcus pense que cette promesse est construite sur le sable. Les 500 milliards d’IA qui ouvrent et d’autres membres du projet Stargate veulent faire des centres de données, il appelle donc “Altmans parier sur la façon dont la critique est une idée fausse”. Et il énumère les paris qu’il a déjà gagnés: qu’il sera plus difficile que prévu pour construire des voitures auto-conduites. Ce 100 milliards de dollars ne serait pas suffisant pour des modèles de langage IA encore plus grands afin de construire l’intelligence artificielle générale (AGI).

On peut le croire quand il dit que son rôle d’étranger n’est pas amusant pour lui. Mais il a fait d’elle sa marque. À Davos, il ne peut pas aller 200 mètres sans rencontrer des fans qui veulent l’imaginer et l’encourager à continuer. On demande même comme un génial s’il avait parfois peur, maintenant que le dénonciateur ouvert de Suchir Balaji a été retrouvé mort.

Marcus dit dans l’affaire: “Il faut un examen plus approfondi.” Il dit que quelques semaines avant sa mort, il a appelé une fois de Suchir Balaji. Ils avaient parlé de la protection des données et des problèmes d’IA ouverte auxquels Balaji avait commenté. “Je n’ai remarqué aucun signe de dépression, mais des signes d’une personne qui veut faire quelque chose dans le monde.”

Il a été dit trop rapidement que c’était certainement un suicide, pense-t-il. “La recherche de Balaji mérite une enquête approfondie.” Cela se déroule évidemment en ce moment, les rapports médico-légaux devraient être publiés fin février au plus tard. “Il y a certainement des gens qui n’étaient pas satisfaits de lui.” Le commentaire en dit long sur la violence du débat sur l’IA.

Quatre ou cinq percées sont toujours portées disparues pour AGI

Gary Marcus partage même l’objectif de Sam Altman et des autres entrepreneurs de l’IA. Il croit en Agi et au fait que les gens devraient les construire. Il a une idée pour une nouvelle startup dans la région. Dans ce document, les méthodes de langage AI doivent être complétées par des algorithmes pour permettre à d’autres types d’apprendre, comme les bébés de ses recherches.

Marcus n’est pas le seul à croire que de nouvelles approches sont nécessaires. Vous pouvez également interpréter les nouvelles méthodes de modèles tels que Deepseek dans la direction. Ils complètent la prédiction avec plus de mécanismes de contrôle.

Cependant, Gary Marcus est convaincu que «quatre à cinq découvertes scientifiques» sont toujours portées disparues pour AGI. Pour une prévision, dit-il, il pourrait être jusqu’à présent dans dix à quinze ans. Il est clair que AGI ne viendra certainement pas cette année. Puis il a Elon Musk One Lois a proposé plus d’un million de dollars. Il n’y est pas entré.

Un article du «»