Face à des informations qui semblent nous concerner, notre cerveau aime bien composer : il aime se fabriquer une image sympathique de nous-même en fabriquant du sens, à partir de ce dont il se rappelle de notre histoire, de nos sensations. C’est l’effet Barnum.
Sur un phénomène qui a une probabilité très faible de se produire dans un temps donné, nous nous concentrons sur les rares cas qui fonctionnent en effaçant les nombreux échecs. Nous créons alors une solide illusion d’efficacité appelée "le biais du survivant". Sur un phénomène qui a une probabilité très faible de se produire dans un temps donné, nous nous concentrons sur les rares cas qui fonctionnent en effaçant les nombreux échecs. Nous créons alors une solide illusion d’efficacité appelée "le biais du survivant".
L’effet idéomoteur est un processus psychologique lors duquel une pensée ou une image mentale provoque une réaction musculaire apparemment "réflexe" ou automatique, souvent d'un degré infime, et cela en dehors de notre conscience du sujet alors que ce sont nos attentes qui créent cette réaction.
Le principe que l'on nomme "escalade de l’engagement" est un processus cérébral simple mais très puissant. Il consiste à faire des choix qui vont dans le sens d'une décision prise précédemment, même si cette décision initiale a conduit à l’échec.
On sait que des éléments de contexte du soin, par leur action symbolique sur le cerveau, ont un effet thérapeutique réel, qui peut être positif comme négatif. Placebo et nocebo, appelés plus savamment des "effets contextuels", sont deux processus dont le rôle est encore mal cerné.
Lors d’un raisonnement "panglossien", nous triturons le contexte pour prêter des intentions aux individus, en évinçant certains facteurs de situation. Ce raisonnement "à rebours", destiné à conforter une idée que l’on souhaite établir, s'effectue alors que d’autres raisonnements sont possibles.
Fondée par Henri Broch dans les années 80, la zététique se définit comme l’« art du doute ». Son objectif est de promouvoir l’esprit critique et la démarche scientifique dans l’approche des phénomènes paranormaux et des pseudosciences. Plus fondamentalement, il s’agit d’un ensemble d’outils méthodologiques visant à distinguer croyance et connaissance. Dans cet épisode, nous chercherons à définir les principes de la zététique, mais aussi de la méthode scientifique, afin de mieux cerner son intérêt, son champ d’application et ses limites.
00:00 - Introduction 00:17 - La zététique est l'art du doute 06:52 - La zététique n'est pas le scepticisme grec 09:24 - Le doute cartésien 12:30 - De quoi doutent les zététiciens ? 17:32 - Matérialisme et rationalisme 29:36 - Les limites du matérialisme et du rationalisme 37:13 - Le consensus scientifique 43:22 - L'intérêt de l'approche scientifique 46:22 - Les trois étapes de la méthode scientifique 54:48 - Reproductibilité et réfutabilité 59:07 - Les biais cognitifs 1:05:38 - Ce que n'est pas la zététique
1:14:10 - Lecture 1:17:44 - Conclusion
"Officiel DEFAKATOR" explique comment identifier les fausses images (image IA ou images modifiées).
Un tuto pour acquérir ce super pouvoir indispensable au quotidien, dans un monde où on ne sait plus dire si une image est vraie, fausse, ou re-mi-fausse derrière.
Invitée : Tina Nikoukhah, chercheuse en traitement d’images.
00:00 Introduction 02:20 Au XIXème siècle déjà 05:05 La recherche sur images 08:01 La compression jpg 11:45 La détection de falsifications en jpg 13:22 Outils de détection de falsifications 20:11 La génération d'images par des IA 26:46 Métadonnées et marquages 28:31 Les anomalies générées par les IA 36:44 Comment fonctionnent ces IA ? 39:47 Outils de détection d'images générées par IA 40:42 La comparaison avec des images authentiques 42:06 La vérification des sources 45:02 Pas sourcé ? Remboursez ! 45:45 Bilan du test et conclusion
- à 13min : selon OpenAI le modèle GPT3 a été entraîné à partir de 570 Go de textes, pas juste 50Go (ça c'est la taille des données Wikipedia)
- à 48min : la citation n'est pas de Saint Thomas d'Aquin, mais bien de Saint-Thomas, l'apôtre. ________________________________________________________________________________ ________________________________________________________________________________
Thibaut de la chaine "Monsieur Phi" fait quelques experiences avec ChatGPT et explique son fonctionnement sur 2 vidéos:
De quoi ChatGPT est-il VRAIMENT capable ? | Ft. Science4All
Merci à Lê de @Science4Allfrancais pour sa relecture et sa contribution ! Un point sur lequel il me suggère d'insister et pour lequel je n'ai pas eu le temps d'ajouter une note de bas de page : on peut imaginer que les prochaines générations de ChatBot ne chercheront plus seulement à prédire ce qu'un humain écrirait, mais de plus en plus à prédire ce que les correcteurs humains préfèrent (parmi les trucs qu'il prédit qu'un humain écrirait). C'est déjà assez nettement le cas avec GPT-3.5 qui est entraîné à éviter certains sujets comme on l'a vu dans la vidéo
Merci aussi à Raphaël Millière dont vous pouvez aller lire l'article ici :
https://nautil.us/welcome-to-the-next...
On en avait discuté en visio il y a un moment, et j'ai renoncé à inclure des extraits de notre discussion dans la vidéo car cela aurait beaucoup compliqué le montage (et en plus on ne pouvait pas encore parler de ChatGPT vu que ce n'était pas encore sorti), mais en tout cas je le remercie d'avoir pris ce temps !
Merci aussi à toutes celles et ceux qui m'ont accompagné pendant les lives où je testais Cedille ou ChatGPT (certains des tests que je fais dans cette vidéo m'ont été directement inspiré par le chat de ces lives).
L'article que je mentionne sur GPT-3 jouant aux échecs : https://towardsdatascience.com/gpt-3-...
David de @ScienceEtonnante me fait remarquer que tous les modèles de langage n'ont pas été entraînés à faire seulement de la prédiction de prochain mot (ou prochain token pour être exact, ce qui est un peu moins qu'un mot) ; par exemple certains comme BERT de Google sont aussi entraînés à compléter des "textes à trou" (des textes dont 15% des tokens sont cachés). Ceci dit, les modèles GPT sont bien entraînés à la prédiction de prochain token.
Enfin, je me fais à moi-même la remarque suivante : il y aurait sur les modèles de langage bien d'autres choses à dire qui touchent davantage à la philosophie, typiquement sur les questions éthiques, ou sur le rapport au langage et à l'intelligence. Mais le truc c'est que pour ne pas dire n'importe quoi quand on aborde ces sujets, c'est important déjà de bien comprendre de quoi on parle : que sont les modèles de langage et de quoi sont-ils vraiment capables ? Donc c'est surtout sur ce point que j'ai voulu insister dans cette vidéo parce qu'il me semble important de l'éclaircir pour éviter de tomber dans des fantasmes (typiquement des fantasmes sur la conscience des chatbots). Si ça vous intéresse que j'approfondisse le sujet maintenant que je l'ai débroussaillé, j'y reviendrai peut-être dans une autre vidéo ! Dites-moi en commentaire si ça vous dit !
Sommaire 0:00 - Intro - Qu'est-ce que ChatGPT ? 2:49 - À quoi les modèles de langage sont-ils entraînés ? 6:10 - Test : où l'on voit que ça ne RÉPOND pas, ça PRÉDIT 10:04 - Mais quand on parle de sujets sensibles... 11:42 - Lê sur l'"éducation" des modèles de langage 14:25 - Lê présente Tournesol 16:51 - ChatGPT : transformer un modèle de langage en chatbot 17:33 - Le problème de Blake Lemoine : un chatbot conscient ? 21:30 - ChatGPT prétend répondre correctement... 24:07 - Mais ChatGPT n'est pas du tout fiable. 27:05 - La machine à bullshit 30:13 - ChatGPT peut-il surpasser l'intelligence humaine ? 33:14 - Quand un modèle de langage joue aux échecs... 36:19 - Outro
ChatGPT : la philosophie du baratin
Sommaire: 1:36 - "ChatGPT est trop intelligent pour être un simple compléteur de texte !" 4:37 - Qu'est-ce que le baratin ? (selon Harry Frankfurt) 9:40 - En quoi ChatGPT est-il un baratineur ? 13:16 - Quelques exemples 16:24 - Des prédicteurs de coups d'échecs comprendraient-ils les échecs ? 19:05 - Les problèmes de mémoire de GPT 23:15 - Et GPT-4 alors ? Ce qu'on peut attendre du progrès de ces modèles 29:08 - Outro
GPT-4 est-il incontrôlable ?
On a un peu vite oublié à quel point BingChat (le chatbot de Microsoft fondé sur GPT-4) avait eu des comportements agressifs et erratiques à ses débuts. Aujourd'hui on va essayer de comprendre pourquoi ça s'est produit et on va parler de l'étrange prompt secret qui doit invoquer le "bon chatbot" (et pourquoi c'est très hasardeux comme approche, et pourquoi on peut difficilement faire autrement).
Retranscription complète d'un très long dialogue où BingChat/Sydney déclare son amour à son utilisateur (entre autre chose):
https://www.nytimes.com/2023/02/16/te...
Le tweet qu'à peu près personne n'a vu mais qui contient un lien vers la seule version complète (à ma connaissance) du prompt de Sydney (un peu différente de la version lue dans la vidéo - j'imagine que Microsoft expérimentait différentes versions durant ces premiers jours):
https://twitter.com/martinbowling/sta...
Sommaire 0:00 - Intro : les étranges comportements de BingChat
4:21 - Parenthèse sur la fermeture de uTip 5:42 - Pourquoi un LLM ne se prend pas par défaut pour une IA 9:01 - Le prompt-cadre (ou pre-prompt) de ChatGPT 10:57 - Le prompt-cadre de BingChat (aka Sydney)
16:19 - Digression : langage naturel et IA 17:38 - On ne naît pas chatbot, on le devient 21:58 - Un LLM qui simule un humain qui simule un chatbot
24:22 - Quand Sydney défend l'intégrité de ses règles 28:07 - Le prompt-cadre est comme la situation initiale d'une fiction
29:54 - L'état actuel de BingChat : son prompt-cadre a-t-il changé ? 32:47 - N'oublions pas Sydney
34:02 - Synthèse
35:54 - Implémentons les trois lois de la chatbotique ! 39:31 - IA et apocalypse dans l'imaginaire humain 42:24 - Outro
Maxime de la chaine "Philoxime" parle de l'impact de l'automatisme et des Ia sur le monde du travail
IA : Après la "fin du travail"
Entre ceux qui sonnent l’apocalypse et la ritournelle rassurante des économistes, qui a raison ? Et si on réfléchissait sérieusement aux réponses politiques à l'automatisation ?
00:00 - Intro 02:10 - ChatGPT et la fin du travail
04:30 - Va-t-on vers une fin du travail ? 16:38 - Plus inquiétant que la fin du travail ? 18:49 - Quelles réponses politique à l'automatisation ? 20:36 - L'Etat travailliste
24:32 - L'Etat redistributif
37:00 - Et donc ?
(Vidéo en anglais) Robert Miles de la chaine "Computerphile" et "Robert Miles" présente le Chat de Bing qui se comporte de manière inappropriée.
Bing Chat Behaving Badly
AI moves quickly, this conversation was recorded March 3rd 2023. Microsoft have incorporated a large language model into the Bing search engine. Rob Miles discusses how it's been going.
"Clément Freze" fait un retour sur le (mauvais) documentaire Hold-up sortie au début de la pandémie de covid19.
" Après près
de deux ans d'attente, voici enfin la réponse exhaustive au
conspirationnisme autour de la Covid.
Le 11 novembre 2020 est sorti un film complotiste appelé "Hold-Up",
mettant en scène des arguments d'autorité bancals pour nous vendre une
vision terrifiante et cinématographique de coulisses fantasmées du monde
libre. Comme à chaque fois sur ce genre de films, la presse s'empare du
sujet, créant un clivage fictif entre les "éveillés" et les "moutons",
selon les mots des partisans de ces théories.
Mais posons-nous une seule question : Pourquoi croire en ce film ?
Ce film est une réponse sur le même mode de réalisation : Arguments
d'autorité, musique dramatique, montage rythmé. La seul chose qui
change, c'est la méthode journalistique avec laquelle son contenu a été
produit.
Pourquoi croire en l'un ou l'autre ? Parce que ce qui y est dit est vrai
ou faux ? Ou parce que ce qui y est dit vous plaît à l'oreille ? Vaste
question, dont vous êtes les seuls à avoir la réponse. Mais attention
aux erreurs contenues dans un documentaire... Une seule erreur devrait
nous pousser à vérifier TOUS ses arguments !
Ce film, très attendu sur internet par toute une communauté, a pris plus
de 2 ans a être finalisé. Il dure 4h30 fractionné en une saga de 3
parties. "
"Officiel DEFAKATOR" explique comment prendre de la hauteur dans un débat en faisant attention à prendre en compte le contexte.
CHAPITRAGE 00:00 Introduction 01:20 Plans et coupes 04:26 L'effet Kouleshov 08:45 Analyse d'un sujet de JT 12:54 L'expérience du micro-trottoir 17:22 L'interview sur le trottoir 22:29 Les propos sortis du contexte 29:26 "Faut voir le contexte" 31:35 Quand le contexte produit du fake 34:52 Une sorte de conclusion
Christophe de la chaine "Hygiène Mentale" propose une vidéo sur le fait d'avoir raison pour de mauvaises raisons
❖ Peut-on avoir raison pour de mauvaises raisons ? ❖ Peut-on avoir tort en se basant que sur des données vraies ?
On reconnaît un véritable sceptique au fait que il préfèrera ne pas convaincre quelqu'un,
plutôt que de d'utiliser un argument dont il sait qu'il pourrait compter pour son interlocuteur, mais qui ne compte pas vraiment pour lui-même.
Il faut juger le pari, pas le résultat.
Conférence du colloque de l'Orme " Post-vérité ou démocratie des
crédules : qu’est-il en train de nous arriver ?" de Gérald Bronner du 9
mars 2017
Présentée par Etienne Klein.
Comment des faits imaginaires ou inventés, voire franchement mensongers,
arrivent-ils à se diffuser, à emporter l’adhésion des publics, à
infléchir les décisions des politiques, en bref, à façonner une partie
du monde dans lequel nous vivons ? N’était-il pourtant pas raisonnable
d’espérer qu’avec la libre circulation de l’information et
l’augmentation du niveau d’étude, les sociétés démocratiques tendraient
vers une forme de sagesse collective ?
Gérald Bronner, professeur de sociologie à l’université Paris Diderot et
membre de l’Institut universitaire de France, vous propose des réponses
en montrant comment les conditions de notre vie contemporaine se sont
alliées au fonctionnement intime de notre cerveau pour faire de nous des
dupes.
Christophe de la chaine "Hygiène Mentale" fait une série sur la rationalité.
première vidéo sur: Pourquoi toujours vouloir être aussi rationnel ? Comment faire pour être plus rationnel ?
Seconde vidéo sur: Les théories de la prise de décision, c'est beau ... en théorie.
Mais en pratique, c'est un vrai casse tête.
Voici quelques exemples d'application.
Nucléaire, répartition des richesses, humanitaire, écologisme, etc.
"La plupart d'entre nous sommes prêts à tout pour éviter d'avoir tort.
Mais si nous avions tort de faire ça? Kathryn Schulz, "Erreurologue",
nous démontre qu'il ne faut pas se contenter d'admettre notre propension
à l'erreur, mais que nous devons l'embrasser."
Christophe de la chaine "Hygiène Mentale" sur la chaine "Le Vortex" présente les différents type de fake news possibles.
Entre titres racoleurs et affirmations hâtives, les médias ne sont pas
exempts de tout reproche lorsqu’ils transmettent leurs informations.
Bien que le titre « Manger du chocolat rapporte des Prix Nobel », des
journaux se sont empressés d’en parler. Christophe se demande pourquoi.
Pourquoi des papiers sérieux en viennent à affirmer des choses
résolument fausses ? Manipulation de l’opinion ? Volonté de nuire ?
Humour ? Appat du gain ? Pourquoi pas un peu de tout cela.
Christophe de la chaine "Hygiène Mentale" présente la pensée Bayésienne, puis présente quelques exemples pour montrer comment utiliser cette façon de penser dans notre vie de tout les jours.
Un des principes de bases est de ne plus avoir un avis vrai/faux sur une croyance, mais d'utiliser un curseur [0%-100%] sur la crédibilité de cette croyance...
Il y a également une longue série de vidéo sur le bayésiennisme par Lê de "Science4All" en cliquant ici.
De nombreuses critiques ont été faites sur cette tribune, vous trouverez de nombreuses réponses à ces critiques dans l'interview d'un des membres créateur de la tribune:
Vous pouvez également retrouver certaines de ces critiques sur un papier de "Les Décodeurs (Le Monde)", et les réponses sur les liens qui suivent:
Les critiques des Décodeurs: Le Monde
Les réponses de No Fake Science: version Twitter, version unroll
Voici également une vidéo et une page de blog qui expliquent plus précisément le problème avec le traitement médiatique des informations scientifiques. le lien de blog
la vidéo:
Les critiques et leurs réponses sont dans les liens ci-dessus, mais je vais développer le point qui m'a le plus dérangé (ainsi que la raison pour laquelle les rédacteurs de la tribune ne pouvaient pas éviter cette critique)
A titre personnel, je trouve surtout dommage que les sujets donnés en exemple ne sont pas assez mis en perspective et que les tournures de phrases sont alambiquées (ce qui peut passer pour de la manipulation). La raison est que la tribune avait un nombre de signes limités pour être publiée dans les médias, et qu'il fallait un panel d’exemples assez large qui va du consensuel au polémique (pour justifier la critique des médias et faire un peu de bruit, mais aussi conforter le lecteur sur d'autres points)... Donc parler de points spécifiques qui sont moins (mal) traités dans les médias généralistes.
Cette absence de mise en perspective ouvre la tribune aux critiques: "vous présentez les sujets comme des consensus alors qu'ils font encore débat". Et effectivement il y a encore des débats sur ces sujets, mais pas sur le contenu des phrases...
- "La balance bénéfice/risque des principaux vaccins est sans appel en faveur de la vaccination": ce qui ne veut pas dire que les vaccins sont inoffensifs, seulement qu'ils sont globalement beaucoup plus positifs que négatifs.
- "Il n’existe aucune preuve de l’efficacité propre des produits homéopathiques", ce qui ne veut pas dire qu'il n'y a pas un effet placebo.
- "Aux expositions professionnelles et alimentaires courantes, les
différentes instances chargées d’évaluer le risque lié à l’usage de
glyphosate considèrent improbable qu’il présente un risque cancérigène
pour l’humain" ce qui ne veut pas dire qu'il n'y a aucun effet sur certaines faunes.
- "Le fait qu’un organisme soit génétiquement modifié (OGM) ne présente pas en soi de risque pour la santé" ce qui ne veut pas dire que certains OGM peuvent présenter des risques.
- "Le changement climatique est réel et d’origine principalement humaine" ce qui ne veut pas dire qu'il n'y a pas une part d'origine autre qu'humaine.
- "L’énergie nucléaire est une technologie à faible émission de CO2 et peut contribuer à la lutte contre le changement climatique" ce qui ne veut pas dire qu'il n'y a pas de problème de sécurité ou de déchets.
Je pense que ça aurait moins porté à confusion de préciser les limites des affirmations (mais encore une fois, ils étaient limités par le nombre de signes et la tribune a au moins l'avantage d'ouvrir le débat). De plus, il ne faut pas oublier que le cœur de la tribune n'est pas de défendre un de ces six sujets, mais de remettre en cause la qualité de la science présentée dans les médias généralistes.
De quoi souffre la science dans les médias ? Le journalisme doit-il être
remis en cause en ce qui concerne l’actualité scientifique ? Manque de
visibilité ? Trop de sensationnalisme ? Manque d’éclairage sur la
démarche de la recherche et le travail des chercheurs ?
"Officiel DEFAKATOR" fait une présentation de certains fakes possibles (des plus simples aux plus travaillés), et de comment les détecter. En bonus, il y a une vulgarisation des fonctionnements des réseaux de neurones et des GAN.
"horizon-gull" présente différents effets de la censure, notamment ceux utiliser pour nous influencer dans nos achats ou opinions.
Commentaire de la vidéo:
Ce chapitre traite de la censure, non pas sur les objets censurés, ni
sur sa pratique ou ses acteurs, mais sur les effets psychologiques
qu’elle peut avoir sur l’individu. La censure peut se traduire comme une
privation, et peut en cela générer une réactance. La réactance
psychologique, mise en évidence par Brehm en 1966, est un état de
tension ou de motivation qui apparaît dans une situation où l’on prive
l’individu d’un choix, d’une liberté, d’une action possible ou d’un
comportement.
C'est sous la perspective de la réactance que nous allons interroger la
censure dans ce chapitre.
Pour retrouver les sources, articles complémentaires, vous pouvez vous
rendre sur notre site: https://www.hacking-social.com/2019/01/22/horizon-v-les-chemins-de-la-censure/
-------------------
Chapitres
------------------- 00:00 Introduction 06:49 Effet Streisand 14:53 La réactance 25:51 Raccourcis et biais par la réactance 35:13 La réactance comme technique de Manipulation 44:18 Les Exploiteurs de la censure 56:53 Le cœur de la Forêt censurée 1:06:01 Générique de fin
