L'après-Transformer : le défi du Japon pour une IA moins gourmande
Neuf ans après la révolution de Google, le modèle Transformer montre ses limites. Trop lourd et trop cher, il pourrait céder sa place à des architectures plus sobres pour atteindre l'intelligence artificielle générale.
Le piège de l’aviation
L’IA actuelle repose sur le Transformer, une technologie présentée par Google en 2017. Selon les experts interrogés par テレ東BIZ le 2 septembre 2026, cette base commence sérieusement à dater. Le problème est simple : plus le texte est long, plus les calculs pèsent lourd sur les processeurs (GPU) et la mémoire vive.
Un intervenant compare le secteur à l’aviation. C’est un marché où l’investissement de départ est colossal, mais où la concurrence finit par s’entretuer sur les prix, réduisant les marges à néant. Pour éviter ce bain de sang financier, les entreprises japonaises cherchent la recette secrète : une architecture radicalement différente capable de casser les coûts de production tout en restant performante.
Adieu au tout-calcul ?
La piste actuelle consiste à réduire la dépendance à ce qu’on appelle l’attention, le cœur du Transformer qui dévore les ressources. Des modèles comme Mamba ou Gate Delta Net font déjà leur apparition dans les centres de recherche. L’idée est de compresser les données passées plutôt que de tout recalculer sans cesse. C’est une avancée majeure pour rendre l’IA accessible aux plus petites structures.
Le grand défi, c’est l’apprentissage continu. Aujourd’hui, une IA est souvent figée après son entraînement initial. Demain, les chercheurs visent des robots capables de s’adapter à leur environnement pendant un ou deux ans, en tenant compte de l’usure de leurs propres pièces ou des changements climatiques locaux. Cette flexibilité est la clé pour une intégration réelle dans la vie quotidienne.
La quête de l’intelligence totale
Le milieu de la recherche se divise sur une question fondamentale : peut-on atteindre l’AGI (l’intelligence artificielle générale, capable de tout faire comme un humain) avec les outils actuels ? Certains pensent qu’ajouter des fonctions de mémoire au Transformer suffira. D’autres affirment qu’il faut abandonner totalement le mécanisme de self-attention pour franchir un nouveau cap technologique. La course est lancée pour définir ce qui succédera au règne de Google dans le monde du code.
相次ぐAIの“暴走”は人類絶滅の予兆なのか?/ヒトの仕事と教育の未来は?【橋本幸治の理系通信】
© テレ東BIZCet article se fonde sur le reportage publié par テレ東BIZ, la vidéo ci-dessus. Il est écrit en français et relu par la rédaction. Vous pouvez tout vérifier à la source. Notre méthode.