En l’occurrence la science que contredit Reporterre dans cet article, c’est celle qui a mesuré que les chatbot IA sont efficace pour réduire les croyance conspirationnistes, c’est une science humaine.
De ce que j’ai compris, la flagornerie aide à lutter contre le conspirationnisme car elle offre une “porte de sortie” aux conspis : c’est le premier truc dont ils parlent après coup, pour expliquer leur ressenti. Ils considèrent les chatbot IA plus bienveillant et plus patient que des humains (puisque l’IA est toujours respectueuse peu importe à quel point tes croyances sont stupides et accepte des “corrections” fausses de la part de l’utilisateur).
Oh OK, merci pour les explications, maintenant je comprends ce que tu voulais dire. Tant mieux si les chatbots ont plutôt cet effet alors.
Pour tempérer un peu des articles enthousiastes, mentionnons tout de même que la crise de la reproductibilité en science affecte particulièrement la psychologie, et que AI Psychosis donne également un peu de lecture, dans un sens qui semble plutôt opposé.
Le terme “AI psychosis” n’est pas neutre et est d’ailleurs remis en question dans le troisième article : je ne pense pas avec l’état de l’art sur l’IA et le conspirationnisme.
Mais c’est clair qu’il y a encore beaucoup de limites à nos connaissances. Je pense néanmoins qu’une science (même dysfonctionnelle, même nuancé, etc.) est toujours plus fiable qu’une conviction personnelle. Et j’attends d’un journal sérieux qu’il base ses articles sur la première (même en pointant du doigt ses limites comme tu le fait), pas sur la seconde.
Je pense néanmoins qu’une science […] est toujours plus fiable qu’une conviction personnelle
J’ai l’impression que parce que je suis pas aussi enthousIAsthe que toi tu m’as un peu vite catalogué comme amateur de pseudo-science quand je lis ce genre de phrase. Je te rassure, ce n’est pas du tout le cas, j’ai même quelques publications revues par mes pairs dans lesquelles il y a “learning” dans le titre. :-P (pas dans le domaine du NLP, donc assez loin des chatbots)
J’aime pas que ça sonne comme de la frime ou une tentative d’argument d’autorité, mais je le signale car ce n’est pas la première fois que je vois cette fausse dichotomie selon laquelle tu es soit “pour la science et super enthousiaste de l’IA”, soit “critique de la frénésie IA actuelle donc anti-science et amateur d’ésotérisme”. Le monde est plus nuancé.
Mais tu vas être déçu, c’est principalement utilisation de deep learning pour faire des trucs, pas tellement des contributions dans le domaine de l’apprentissage automatique (c’est comme ça qu’on dit machine learning en français quand on est pédant). Et en plus tu vas voir qu’il y a de moins en moins de publis par année car malheureusement il y a tellement peu de postes durables (et ils sont mal payés) dans la recherche académique que ça n’est plus vraiment un objectif pour moi de publier. Je salue les courageux qui lâchent pas l’affaire !
Je parlais de Reporterre ici, ils ont basé leur article sur leurs convictions personnelles au lieu de le baser sur l’étude. Il me semble que dans ce cas là leur choix est assez clair, mais je n’ai pas la vision dichotomique dont tu parles en général (et je me permettrait pas de te juger personnellement).
En l’occurrence la science que contredit Reporterre dans cet article, c’est celle qui a mesuré que les chatbot IA sont efficace pour réduire les croyance conspirationnistes, c’est une science humaine.
De ce que j’ai compris, la flagornerie aide à lutter contre le conspirationnisme car elle offre une “porte de sortie” aux conspis : c’est le premier truc dont ils parlent après coup, pour expliquer leur ressenti. Ils considèrent les chatbot IA plus bienveillant et plus patient que des humains (puisque l’IA est toujours respectueuse peu importe à quel point tes croyances sont stupides et accepte des “corrections” fausses de la part de l’utilisateur).
Tu peux lire quelques abstracts d’articles sur le sujet pour te faire une idée.
Oh OK, merci pour les explications, maintenant je comprends ce que tu voulais dire. Tant mieux si les chatbots ont plutôt cet effet alors.
Pour tempérer un peu des articles enthousiastes, mentionnons tout de même que la crise de la reproductibilité en science affecte particulièrement la psychologie, et que AI Psychosis donne également un peu de lecture, dans un sens qui semble plutôt opposé.
Le terme “AI psychosis” n’est pas neutre et est d’ailleurs remis en question dans le troisième article : je ne pense pas avec l’état de l’art sur l’IA et le conspirationnisme.
Mais c’est clair qu’il y a encore beaucoup de limites à nos connaissances. Je pense néanmoins qu’une science (même dysfonctionnelle, même nuancé, etc.) est toujours plus fiable qu’une conviction personnelle. Et j’attends d’un journal sérieux qu’il base ses articles sur la première (même en pointant du doigt ses limites comme tu le fait), pas sur la seconde.
J’ai l’impression que parce que je suis pas aussi enthousIAsthe que toi tu m’as un peu vite catalogué comme amateur de pseudo-science quand je lis ce genre de phrase. Je te rassure, ce n’est pas du tout le cas, j’ai même quelques publications revues par mes pairs dans lesquelles il y a “learning” dans le titre. :-P (pas dans le domaine du NLP, donc assez loin des chatbots)
J’aime pas que ça sonne comme de la frime ou une tentative d’argument d’autorité, mais je le signale car ce n’est pas la première fois que je vois cette fausse dichotomie selon laquelle tu es soit “pour la science et super enthousiaste de l’IA”, soit “critique de la frénésie IA actuelle donc anti-science et amateur d’ésotérisme”. Le monde est plus nuancé.
Tu peux partager un lien vers tes articles (si c’est ok pour toi de le faire ici) ?
Pas de problème, je suis pas du tout anonyme: https://nicoco.fr/publis/
Mais tu vas être déçu, c’est principalement utilisation de deep learning pour faire des trucs, pas tellement des contributions dans le domaine de l’apprentissage automatique (c’est comme ça qu’on dit machine learning en français quand on est pédant). Et en plus tu vas voir qu’il y a de moins en moins de publis par année car malheureusement il y a tellement peu de postes durables (et ils sont mal payés) dans la recherche académique que ça n’est plus vraiment un objectif pour moi de publier. Je salue les courageux qui lâchent pas l’affaire !
Je parlais de Reporterre ici, ils ont basé leur article sur leurs convictions personnelles au lieu de le baser sur l’étude. Il me semble que dans ce cas là leur choix est assez clair, mais je n’ai pas la vision dichotomique dont tu parles en général (et je me permettrait pas de te juger personnellement).