La petite note, très théorique, qui fait bien peur…
En 88 heures seulement, le système d’IA d’OpenAI aurait donc émis autant que 50 personnes résidant dans l’Union européenne (UE) pendant un an (pour se nourrir, se loger, se déplacer, etc.).
(et en fait toujours selon la théorie ce serait plutôt le double de personnes en prennant en compte les erreurs)
De même pour la recherche de failles de sécurité informatiques, un sujet où les LLM sont souvent perçus comme ayant une contribution positive nette au champ d’activité, mais au final ils produisent de la quantité plutôt que de la qualité : les chercheurs en sécurité sont exaspérés par la quantité de slop, de faux positifs, de “failles” non exploitables, et au final évaluent la contribution des LLM comme mineure malgré les apparences et le marketing qui prétend avoir révolutionné le milieu.
Ça soulève la question du coût éthique et environnemental de la contribution de ces LLM au monde de la sécurité informatique, qui doit être tout aussi astronomique que celui des preuves mathématiques. Le sujet commence à faire le tour des chercheurs en sécurité dernièrement, qui se sentent impuissants face aux contributions des LLM vu qu’elles doivent toutes être analysées et prises au sérieux pour éviter une crise de sécurité majeure, mais sont devenues avant tout une source de burnout humain et de malaise ethique pour beaucoup de ceux qui doivent passer leur temps à les analyser et prendre au sérieux.
Une accélération technologique peut (et doit!) être une bonne chose pour les humains, mais clairement ça ne le sera pas sans en arracher la propriété exclusive aux grandes entreprises capitalistes. Si au lieu d’être une course à produire des résultats rapides en remplissant des datacenters énergivores, la recherche mathématique et de failles de sécurité se faisait sur des machines déjà existantes, qui sont certes beaucoup beaucoup plus lentes mais ont le mérite de déjà consommer de l’énergie même au repos, on arriverait à terme au même résultat. La puissance de calcul collective non exploitée sur la planète est colossale, c’est bien un symptôme du capitalisme qu’on préfère en créer toujours plus pour les causes individuelles d’entreprises en quête de profit plutôt que de communaliser et d’exploiter ce dont on dispose déjà pour le bénéfice collectif.
À rajouter à cet article, un grand nombre de médaillés Fields qui affirment que la résolution de problèmes mathématiques par des méthodes algorithmiques n’a aucun bénéfice pour le champ des mathématiques, vu qu’au final c’est juste du bruteforce qui ne nous aide pas à étendre notre compréhension ou à créer de la nouvelle théorie dans le milieu. C’est pour ça qu’il faut autant de temps pour que les propositions de solutions à ces problèmes mathématiques par les LLM soient vérifiées, ça n’intéresse pas les mathématiciens si ça ne nous apporte rien de nouveau, ce sont juste des preuves pour la preuve, pour collectionner les stickers “on l’a fait” à coller sur le marketing de leur produit. D’autant plus frustrant pour ces mathématiciens qu’ils le disent dans leur lettre ouverte sur le sujet : ils voient très bien l’utilité potentielle des LLM aux mathématiques, et les utilisent déjà comme outils, c’est leur usage capitaliste qui ne produit que du temps perdu et de la pollution, mais c’est sur celui-là que choisissent de se concentrer les grandes entreprises du milieu. C’est la même vibe que celle qui est en train d’émerger dans le milieu de la sécurité informatique.
spoiler
L’article a au moins la sincérité de dire que tout son raisonnement se base sur un benchmark non scientifique d’un autre modèle sur d’autre machines, mais ils font quand même l’erreur d’intégrer l’empreinte carbone de la résolution d’autres problèmes (en disant qu’il n’est pas précisé s’ils sont résolu ou non alors que l’article sur lequel ils se base dit bien qu’un seul problème a été résolu : celui de la régularité des équations d’Euler sans forçage) et surtout celle, plus fondamentale, de comparer des impact locaux et globaux.
ça n’a pas de sens de dire que la voiture est peu polluante parceque “ma voiture n’émet que quelques kilo de co2 par jour en moyenne, c’est rien en comparaison d’un train qui émet la même chose en 10km.” : il faut toujours comparer différents moyens pour atteindre un même but. Ici l’article compare l’empreinte carbone de la résolution d’OpenAI avec l’empreinte carbone d’une personne moyenne. ça n’a pas de sens parceque même les chercheurs ne font pas que chercher dans leur vie (il ne faut pas compter les émissions lié à leurs loisir, leurs logement, etc.), et puis on peut se faire une idée de l’impact de la recherche en regardant le bilan carbone du cnrs, résultat : environ 15tCO2eq/an/agent. La plupart sont du matériel, cela dit, donc si on imagine que les mathématiciens n’ont besoin que d’un tableau blanc il reste environ 15% soit environ 2tCO2eq/an/agent.
Mais surtout ça n’a pas de sens parcequ’il n’y a pas qu’un seul chercheur qui a travaillé sur Navier-Stoke pendant un an : des milliers de mathématiciens se sont cassés les dents sur ce problème depuis le XIXème siècle. En étant très généreux on atteint facilement des empreintes carbones 10 fois supérieur à l’estimation du journal concernant la résolution d’OpenAI.
En plus il n’y avait vraiment pas besoin de tordre la réalité comme ça : ces émissions, même faibles, posent déjà question par le simple fait qu’elles sont émises dans un temps si court.
