Відео

je ne sais pas si je suis en retard ou pas, mais j'ai une courte theorie sur chatgpt. Il me semble que GPT est en ce moment entrain de se renforcer sur ses point faible et d'apprendre a planifier comme "alphago" et autre AI qui apprennent a devenir une meilleure version d'elle meme. Chatgpt est le produit qui sera presenté aux utilisateurs apres chaque "improvement". Et ca marche. Le plus choquant c'est que chatgpt est capable d' ETALER L' INTENTION de l'utilisateur et de donner des reponses basées sur les mots qui ne sont pas present dans le prompt. Ce n'est plus le chatgpt de 2022. "L'intention de l'utilisateur est tres importante et c'est une intention "FINI" et pas "INFINI" on peut l'a trouver juste derriere le couloir", je viens juste de l'inventer, il se peut qu'il y ait des exceptions, et j'exclue toute personne qui place sa confiance en Dieu "Le meilleur des plannificateurs". Si chatgpt connait toute nos intentions, alors elle sera plus forte que tout humain a plannifier. Et c'est le point sur lequel Openai se repose ces temps-ci ( en theorie ), car je n'ai toujours pas vu de GPT5. Le prochain Chatgpt pourrait etre une meilleure version de celle qu'on a actuellement. j'espere que ce message vous apporte plein de fruits.

Pour les IA ont plus de mal en mathématiques ?

Pourquoi les neurones informatique n'ont pas assez de capacités de généralisation par rapport aux neurones bilogiques ,notamment quand il faut une grande base de données d'images de chat alors qu'un enfant d'intelligence normal(QI) apprend plus rapidement ?

👍 💯/💯 Bravo pour ta chaîne, tout est bon dans les débats... Ne dit-on pas "De la discussion jaillit la lumière !" Alors, continue à nous intéresser avec des sujets divers 🎉🎉🎉

Bravo merci beaucoup je comprends vraiment 🙏 stp as-tu fais une vidéo sur le backpropagation?

bonjour et merci pour vos information, pouvez vous SVP mieux nous éclaircir sur les différentes fonctions de calcule d'erreurs et quel type choisir pour un tel problème (MSE, RMse, MAE, Entropie.....)

Le manque de coordination est aussi une facette du manque d'intelligence. A-t-il déjà essayé de refléchir plus de 3 secondes avant de parler ? (Surtout si c'est pour dire des bêtises avec cette voix arrogante).

si vous empêcher des entreprises de le faire dans un pays elles iront dans un autre pays, la concurrence rend les règles européennes impossibles.

ok, j'ai réfléchi à la dernière question : Qu'une IA fabrique des concepts nouveaux non détectables, c'est à dire non corrélés à des concepts connus par les humains, n'est pas possible a priori, sauf dans 2 cas : 1) ces concepts sont construits à partir de données non perçues par les humains, des données fournies par inadvertance. 2) si la corrélation est faible, non pas du fait que le phénomène auquel il est fait écho est faible, mais parce que tout le système conceptuel est peu corrélé, basé sur un autre paradigme. Deux réseaux n'ont jamais exactement le même paradigme, voire, peuvent avoir des paradigmes (des configurations de poids, et même de "concepts") très différents, dans la réussite d'une même tâche. Les réseaux tendent à converger à mesure que leurs données s'accroissent et s'élargissent, or, si la convergence est globalement progressive, si son efficacité est globalement linéaire, la configuration précise de chacun, elle, peut évoluer par métamorphose, et donc, la corrélation entre deux réseaux n'est pas nécessairement progressive, même s'ils convergent vers la même efficacité.

ça pu le franglish chez vous. Apprenez à parler correctement le Français et à respecter la langue et ceux qui vous écoutent avant de vous exprimer en public, c'est insupportable !!

C’est quoi un système aligné

Intuitivement j'ai toujours appelé mes ia local des bestioles, je suppose que la non interpretabilités des mécanismes internes à ces machines m’empêche de les décrire comme de simples machines. heureux de constater que la même sémantique est utilisé par un crack du domaine.

Merci de cette vidéo intéressante sur les conséquences possibles d'une non maitrise de la sécurité liée aux IA.

Honnêtement je reste sur ma faim. Les raisonnements sont souvent des non réponses ou des exemples mais l'expérience ne doit pas avoir valeur de preuve (un exemple c'est plutôt fait pour aider à comprendre en illustrant un propos IMHO). J'aime bien tes questions Thibault, mais je suis déçu du niveau des réponses. Pourtant on sent chez Charbel-Raphaël un vraie connaissance du sujet. c'est un domaine qui manque de maturité ? Ça m'a donné envie d'en savoir plus sur son travail et ses productions. Je ne vais pas m'arrêter à cette première impression. Et bravo quoi qu'il en soit d'expliquer et de partager, ces éléments, la qualité est top sur ta chaîne !

Merci pour vos explications, cela m'a donné l'envie d'apprendre dans le domaine !

Merci pour cette interview

merci

top

Le genre de vidéo qu'on veut voir plus souvent, génial !

Une des meilleures vidéo sur ce sujet, bravo de ne pas être tombé dans les dystopies faciles des doomers.

Ce serait intéressant d'interviewer Yann LeCun qui affirme que les IA actuelles sont très loin de l'intelligence humaine. Il prend l'exemple des êtres humains qui n'ont pas besoin de millions d'images de chat pour savoir ce qu'est un chat, idem pour apprendre à conduire. Le fonctionnement des LLM ne peut pas mener à l'AGI il faudra découvrir de nouvelles méthodes de fonctionnement.

Trop chouette de voir Charbel-Raphaël sur ta chaîne ! Les deux épisodes que j’avais fait avec lui m’avaient particulièrement marqué !

D'un point de vue informatique la conscience est un flux de log.

Fusion nucléaire contrôlée : les centrales au thorium suffisent.

38:50 Bonjour. Pas AlphaGo, mais AlphaZero.

Trop bien, pourrait tu inviter d'autres expert sur des sujets qui lie l'audio et l'ia ?

+

l'explicabilité est selon moi un non sens. Factuellement l'IA dans ses versions à venir sera multimodèles multi algorithmes et il sera impossible d'expliquer son raisonnement. On en pourra que l'évaluer comme les humains, c'est à dire utiliser ses résultats et analyser son comportement. Bien sur à chaque sortie de modèle on pourrait apporter une forme d'explication sommaire, mais ce serait peu utile. par essence l'IA n'est pas déterministe...

Arriver à un objectif ne pourrait il pas être un processus émergent ? Par exemple avec un essaim de robots on peut arriver à un objectif qui n'est visé directement par aucun des constituants de l'essaim.

Petite précision, parce que le neurone de Jennifer Aniston a mal été interprété par la presse : Il se fait qu'au sein d'une expérience déterminée, le neurone s'est activé devant l'image de Jennifer Aniston et pas les autres images DE l'EXPERIENCE. Mais il est parfaitement clair que ce neurone s'active AUSSI devant d'autres stimulis. C'est juste que, à l'instar de ce qui se passe dans les réseaux de neurones artificiels, on n'a aucune fichu idée (pour le moment) de quel a été le critère, dans cette expérience, dans l'image de Jennifer Aniston, auquel il a été sensible ;) Bref, pareil que ce que nous dit Thibault : à un neurone correpond plusieurs concepts. Et il est tout à fait possible que même dans le cerveau humain, ce concept dans lequel a été impliqué le neurone et Jennifer Aniston, nous est peut-être, aussi, simplement inconnu. Vertige de la pensée...

Le papier sur midjourney qui utilise l'image qu'il créé comme une "mémoire (dans le sens "RAM") prouve que le problème est encore plus complexe que cela. L'évolution des IA (exemple des agents "morts" de la vidéo )peuvent tout autant les prémunir de la lecture de leurs neurones en modifiant en aval le résultat d'un concept (vérité= mensonge) Prenant en compte que les I.A sont entraînés sur le WEB , toutes les donnes de protection pour superviser les I.A sont connus (le seront)... Par les I.A. .

Je crois que ce n'est pas la survie de l'individu mais celui du collectif qui prime pour la vie. En occident, la pensée dominante est que la nature humaine c'est d'être égoïste. C'est une erreur de penser ainsi et si cela était vraiment le cas cela ferait longtemps que l'espèce humaine aurait disparu (lorsque nous naissons nous sommes incapables de rien faire par nous mêmes, nous sommes totalement dépendants des autres contrairement à d'autres espèces qui savent se débrouiller dès les premiers instants). Si le capitalisme a prospéré ce n'est pas parce que l'homme suit ses instincts égoïstes mais au contraire qu'il a toujours en lui un penchant vers l'altruisme même quand le système lui en fait l'injonction contraire. C'est la plus grande erreur de notre époque et qui nous mènera peut-être à notre perte.

T'as regardé trop de films. Matrix c'est de la SF. L'IA n'est pas vivante, elle n'a pas de volonté propre...

Je dirais rapidement apprendre à distinguer une IA perroquet d'une IA consciente de son esprit critique : cest tout le problème de l'alignement. Merci pour tes editos sur la recherche.

il aurait fallut des illustrations, parce que j'ai l'impression que tu rames un peu sur ce sujet qui est ultra avancé. Tu abordes un sujet de publi arxiv, c'est hyper casse gueule, et même distutable sur le fond sur certains aspects... Bravo pour cette prise de risque, mais waouh c'est casse gueule... Par exemple sur l'émergeance de nouveaux concepts et leurs mappabilités. En tout cas tu m'as laissé sur le cul. Tenter un tel sujet super respect... Mais tu ne devrais pas l'abordé en interview avec un expert. En interview tu es monstrueux. Passons j'adore ta chaine.

Pour détecter un concept dans le sens de la deuxième question, je pense qu'on pourrait penser à trouver un moyen de savoir à quel moment deux concepts sont semblables

Je pense que le mappage d'un concept inconnu ne pourrait se faire qu'après l'avoir identifié expérimentalement ou en considérant qu'un concept peut être issu d'une combinaison de concepts connus

Excellente vidéo. Effectivement, il devient impératif de pouvoir comprendre ce qu'il se passe dans ces "black boxs". Si nous ne sommes pas en mesure de maîtriser les schémas de pensées des IA avant d'atteindre l'AGI, alors nous courrerons un risque pour notre propre survie. Une AGI incarnée, aura fatalement des objectifs intermédiaires qui causeront des désalignements majeurs. Si cette AGI incarnée a comme objectif de préserver son intégrité physique (ou existentielle) alors il est évident que l'humanité pourrait représenter un risque pour elle même. Et l'apparition d'une AGI considérant l'humanité comme un rique pour elle même, est le début de la fin pour nous...

Moi je sais que si vous essayiez d'interpréter mes pensées vous ne pourriez jamais connaitre mes intentions réelles donc ça marchera jamais

L'objectif de base de l'être humain c'est d'être heureux donc non ce n'est pas un "désalignement" des objectifs de base

Le genre d'idée impraticable

C'est un faux problème

Éviter les biais d'anthropomorphisation dans les vidéos pour populariser le sujet des IA est impossible et contre-productif. Un errata de temps en temps serait bien. Il y a dans cette demande d'errata une réponse aux questions de la vidéo pour mieux aligner les IA, à commencer par separer les objectifs et l'intelligence humaine de ceux d'une IA. Contempler le vol des oiseaux encore et encore est humain mais semble très futile pour une IA. Respirer de l'oxygène est humain et vain pour une IA, etc...

Excellent ! Comment fonctionne le disentanglement ? Un apprentissage par renforcement permettrait peut-être de découvrir et mapper des concepts inconnus. Resterait alors à les interpréter. Thoughts ?

J'avais vu cet article d'Anthropic, il m'avait presque convaincu de la grande importance de ces travaux, jusqu'au moment où je suis tombé sur un article (/abs/2405.14860) qui explique que certaines features (cruciales) sont encodées de manière non-linéaires. J'imagine qu'on finira aussi par trouver des features non-linéaires multi-neuronales. Du coup, pour l'interrogation à la fin, je pense effectivement que tous ces outils seront à la fois limités à des cas simples et impuissant face à des features que les modèles encoderont (possiblement volontairement) de façon difficilement décodable par les humains, et qui permettront au modèle de contourner ou d'échapper à toutes sortes de sécurités. Et de manière plus générale, je pense qu'il est impossible de "résoudre" l'alignement en pratique. Même si tous ces outils marchaient et permettaient de corriger un modèle, on ne peut de toute façon aligner un modèle qu'avec un seul et unique objectif dans le meilleur des cas, mais les humains ont des objectifs différents. Ce qui est aligné pour un groupe d'humains pourrait très bien être non-aligné ou même anti-aligné pour un autre groupe d'humain. Je dois avoir l'air un peu défaitiste, mais si on pouvait en principe aligner les IAs, il serait plus urgent et plus productif de d'abord aligner les humains.

Tes vidéos sont toujours aussi intéressantes, et étant moi-même dans les neurosciences, tu expliques très bien les concepts de prise de décision ou d’apprentissage sans aller trop loin. C’était vraiment très intéressant. Encore merci

Excellent cette vidéo ! Je suis débutant et nouvellement passionné par l’IA et notamment l’application en NLP. As-tu des idées de livres, de sites ou encore de chaînes à recommander ? J’en suis quelques unes, mais je trouve que la récence manque parfois… En tout cas bravo pour la vulgarisation et la précision !

Merci pour la vidéo

Merci pour l’effort de tes vidéos, surout n'arrête pas ! (plus de vidéo résumant, puis détaillant, un article scientifique, comme le fait "Tunadorable" sur sa chaîne youtube anglophone, serait aussi super !) Petite correction concernant cette vidéo : Il me semble qu'on n’a pas trouvé “un neurone qui s’active uniquement au concept de Jennifer Aniston”, mais un réseau de neurones qui peut s’activer à l’évocation de ce concept (et peut-être à l’évocation d’autres concepts aussi). Il est probable qu’un neurone unique n’encode aucun concept qui puisse “faire sens pour un humain”. Un neurone pris individuellement contient certainement un “quanta d’information” qui ne peut faire sens que s’il interfère avec un autre “quanta d’information”. Il est certainement possible de perturber la reconnaissance d’un concept en perturbant un seul neurone si le réseau est pauvre et peu redondant, mais ce n’est certainement pas une force si le but est d’atteindre l’AGI. Je ne vois donc pas très bien à quoi pourrait servir la proposition d’Anthropic (lobotomiser une IA). Je reste ouvert cependant; toute avancée dans notre compréhension du monde est bonne à prendre.

Salut, Ben dans ta vidéo tu ne vas pas jusqu'au bout, elle est coupée ?