Post de Gilles Babinet

Hier, et comme régulièrement depuis plusieurs mois, l'IA était à l'honneur avec l'évènement "AI Open Source Day" organisé par Meta à la STATION F.   Avant de rentrer dans le détail, un rappel de quelques définitions clés : 🌍 Open-source : un programme dont le code source est accessible au grand public, permettant une collaboration ouverte et une transparence totale.   🧠 Deep Learning : sous-domaine de l'IA (plus complexe que le Machine Learning) qui utilise des réseaux de neurones artificiels, pour simuler la fonctionnalité d'un cerveau humain.   💬 LLM (Large Language Model) : les LLMs représentent une application du Deep Learning ; se basant sur des énormes données textuelles, les LLMs peuvent comprendre et générer du texte de la même manière qu'un être humain.   Ceci dit, la journée a débuté pied au plancher avec une table ronde organisée autour notamment de Yann LeCun et Thomas Wolf. Plusieurs points ont été cités : - Les modèles étaient jusqu'à fin 2023 surtout en Closed Source. La dynamique est néanmoins en train de s'inverser ; les modèles Open Source étant indispensables pour reprendre le contrôle de la donnée. - D'ici 5 ans, les LLMs n'existeront plus. Les modèles actuels s'entraînent déjà sur la totalité du texte disponible sur internet. Toutefois, ceux-ci sont incapables d'avoir de la mémoire, de planification ou de comprendre le monde. Concrètement, cela signifie que les LLMs n'atteignent pas l'intelligence d'un enfant de 4 ans. - Le futur de l’IA nécessite un changement de paradigme et ne sera pas articulé autour des LLMs. Pour le moment, l'IA se concentre sur les assistants intelligents, qui deviendraient plus intégrés à notre quotidien grâce aux lunettes connectées par exemple. Cependant, il est crucial de noter que chaque algorithme est sujet à des biais. La diversité est essentielle pour atténuer ces effets néfastes.   Après la présentation des start-ups bénéficiant du programme d’AI Start-up Program (incroyable Toongether by Kartoon) et des multiples études de cas (l'edit de photos proposé par Photoroom 😍), la discussion s'est orientée vers la sécurité. Guillaume Avrin, coordinateur national de l'IA pour la République française, a évoqué l'EU AI Act. Celui-ci a, entre autre, un objectif très simple : permettre aux entreprises, si un accident arrive, de certifier, via un FrameWork standardisé, qu'elles ont tout fait en leur pouvoir afin de limiter cet accident le plus possible . Tout en maintenant l’innovation pour les start-ups.   Enfin, Gilles Babinet a conclu cette féconde journée en nous invitant à prendre du recul. À analyser, dans une perspective LT, l'essor de l'AI. Il en résulte que l'Europe ne peut pas se contenter de suivre le mouvement. Il faut donc chercher à développer la recherche et à créer une culture collective, en s’appuyant notamment sur des logiciels Open Source type Llama 3.   Bref, la boucle était bouclée. Merci encore Meta pour l'invitation !   iProspect Dominique Arick Philippine Valentin Clara Daniella

3 mois 🙃 Il aura fallu 3 mois à Open AI pour sortir son nouveau modèle d’IA. Et il bat tous les records. 👇 Depuis le début du mois de Décembre, les annonces des nouveautés chez Open AI s’enchainent. Ils nous révèlent maintenant ce modèle qui est tout simplement stratosphérique. 🤯 Les résultats aux tests de niveau sont à peine croyables : ➡️ 87,5% sur ARC-AGI (quand le seuil humain est à 85%..) ➡️ 25,2 % sur Frontier Math (quand aucun autre modèle n’atteint 2 %) ➡️ 96,7 % à l’AIME 2024 (une seule erreur) ➡️ 71,7 % sur les tests de software engineer, niveau professionnel (contre 48,9 % avec o1 ! 3 mois on vous a dit…. ) ➡️ 87,7 % sur les tests de niveau doctorant (PhD) en sciences (au-dessus des scores des experts humains, les “vrais” PhD..🙃 ) L’utilisation de l’IA va exploser dans la médecine et la recherche scientifique. A cette vitesse de développement, il est impossible d’anticiper l’impact de l’IA demain. Mais deux choses sont certaines : - Aucun métier ne peut aujourd’hui penser qu’il ne sera pas transformé en profondeur par l'IA. Il faut s’y préparer tout de suite. - Quand il s’agit d’anticiper les changements provoqués par l’IA, nous ne sommes même pas au niveau de la poussière sur la partie émergée de l’Iceberg. La première release publique devrait avoir lieu en Janvier. Stay tuned.

Les limites des LLMs selon Yann LeCun : une vision pour l'avenir de l'IA Yann LeCun, Chief AI Scientist chez Meta, a récemment affirmé que les grands modèles de langage (LLMs) ne représentent pas l’avenir de l’intelligence artificielle. Lors de sa prise de parole au salon Vivatech 2024, il a identifié quatre manques critiques des LLMs : la compréhension du monde réel, la mémoire persistante, la capacité de raisonnement et de planification. Selon LeCun, ces limitations rendent les LLMs insuffisants pour atteindre une véritable intelligence artificielle de niveau humain. Pour illustrer son propos, LeCun compare les LLMs à une bretelle de sortie sur l’autoroute menant à une IA de niveau humain. Il souligne néanmoins leur utilité, rappelant que Meta continue de les développer. Cependant, il déconseille aux jeunes chercheurs de se concentrer sur les LLMs, suggérant de se tourner vers la prochaine génération de systèmes d’IA capables de surmonter ces limitations. Chez Meta, les experts en LLMs ont été transférés à la division produits, libérant ainsi le centre de recherche FAIR pour se concentrer sur des projets à plus long terme. Cette réorganisation vise à développer des systèmes d’IA capables de comprendre le monde, de raisonner, de planifier et de maintenir une mémoire persistante, des caractéristiques clés pour une véritable intelligence artificielle. LeCun travaille également sur l’IA pilotée par objectif, une architecture potentiellement capable de raisonner et de planifier sans recourir aux LLMs. Cette approche pourrait représenter l’avenir de l’intelligence artificielle, ouvrant la voie à des systèmes d’IA dotés d’une intelligence proche, voire supérieure, à celle des humains. En résumé, bien que les LLMs soient des outils utiles, LeCun prédit qu’ils seront bientôt dépassés. Il appelle la communauté de recherche à se concentrer sur le développement des prochaines générations d’IA, capables de répondre aux défis actuels et futurs. Façonnons ensemble l'avenir ! Développons ensemble votre futur ! ————————————————- ❇️ Mon nom est Cyril Darmon. 👉 Vous souhaitez une conférence ou un atelier pratique sur l’Intelligence artificielle ? Contactez-moi en message privé ou au +33695957323 👉 Mes conférences sur l'intelligence artificielle montrent comment le changement opère à travers les entreprises. 👉 J'accompagne les chefs d'entreprise et les entrepreneurs solos à changer d'image à travers le marketing digital et l'intelligence artificielle sur des ateliers ultra-pratiques. #LAgenceIA #cyrildarmon #coachsonline #CoolRadio #warrioracademie

“Nous ne savons pas jusqu’où peut aller l’IA” : les dessous de Kyutai avec Patrick Pérez, CEO GRAND ENTRETIEN - Lancé en novembre 2023, Kyutai est l’un des labos de recherche en intelligence artificielle les plus en vue. Il est notamment à l’origine de Moshi, une IA générative texte-voix. Moins d’un an après son lancement, Kyutai dévoile Moshi, une intelligence artificielle générative multimodale. Elle est capable de générer du texte mais aussi de discuter vocalement avec un humain. Elle reconnaît jusqu’à 70 émotions. Une première mondiale. Lancé en novembre 2023 par trois figures de la tech et de l’économie, Xavier Niel, fondateur d’Iliad, investisseurs, à l’origine notamment de l’école 42, d’Hectar… Rodolphe Saadé, PDG du groupe CMA-CGM, et Eric Schmidt, ancien directeur général de Google, Kyutai a tout suite suscité des attentes fortes de la part de la communauté IA. Des attentes qui n’ont pas été déçues. En ce début d’année, le laboratoire livre un “preview” d’Helium-1 : une première version d’un modèle d’IA textuelle et multilingue (français, anglais, allemand, italien, espagnol et portugais pour l’instant) sur lequel travaille actuellement Kyutai dans le cadre de recherches sur des modèles d’IA plus sobres et pouvant tourner en local : sur ordinateur ou téléphone. Ce modèle s’appuie sur deux milliards de paramètres. Aujourd’hui d’une quinzaine de collaborateurs, l’équipe est composée de chercheurs passés par les meilleurs laboratoires publics et privés : Meta, Apple, Google, Polytechnique ou encore l’ENS et est dirigée par Patrick Pérez. Ce scientifique, spécialiste de la “computer vision”, a exercé à l’INRIA, chez Microsoft avant de créer le laboratoire de Valéo.  Pour Maddyness, il dévoile certains projets de recherche de Kyutai et revient sur l’importance de ce type de laboratoire dans la course effrénée à l’intelligence artificielle. M: Comment définiriez-vous votre manière de faire de la recherche  chez Kyutai ? P.P. : Il ne s'agit pas de recherche théorique. Nous menons ce que l’on appelle de la recherche "amont" : elle n’a pas pour objectif d’être directement finalisée pour des applications spécifiques, des domaines précis, des verticales ou des filières. Toutefois, l’une de nos missions principales consiste à produire une recherche véritablement utile, à concevoir des objets de recherche qui servent non seulement la communauté scientifique, mais également les développeurs et les  entreprises, qu’il s’agisse de startups ou de grands groupes.  Notre travail porte sur des intelligences artificielles conçues pour être utiles, tout en restant généralistes et transversales. C’est une recherche résolument appliquée, intégrant une forte composante d’ingénierie. L’open-source : valeur capitale de Kyutai M: Lors de votre événement de présentation de Moshi, votre modèle d’IA générative textuelle et vocale, vous aviez annoncé mettre vos codes à disposition de tous. Quelle est la place de  l’open source dans votre démarche ? 

Joëlle Barral, directrice de la recherche fondamentale en intelligence artificielle chez Google DeepMind, évoque les avancées et les défis de l’IA, en particulier à travers les grands modèles de langage tels que Gemini. Diplômée de Polytechnique et de l’université Stanford, Joëlle Barral travaille chez Google depuis 2004, notamment dans des projets liés à la santé. Selon elle, l’IA actuelle, bien qu’issue de réseaux de neurones datant de plusieurs décennies, a vu son potentiel décuplé grâce à l’augmentation de la puissance de calcul et de la disponibilité des données. Elle considère que nous sommes à l’aube d’une nouvelle révolution industrielle, avec de nombreuses implications pour différentes activités humaines. Toutefois, elle admet que les modèles de langage actuels peuvent commettre des erreurs factuelles. Pour y remédier, il est possible d’intégrer des outils comme des calculatrices ou de se connecter à des sources fiables en ligne pour vérifier les réponses générées. Elle souligne que ce champ est encore largement en développement et que des recherches fondamentales sont en cours pour améliorer ces technologies. Un autre défi est celui des biais, souvent présents dans les données d’entraînement, issues d’un Web biaisé. Google DeepMind a mis en place une boîte à outils pour traiter ces problèmes, notamment dans le domaine de la santé. Barral insiste sur l’importance de la diversité des équipes et des compétences pour corriger ces biais de manière adaptée. Joëlle Barral aborde également la question de la capacité de raisonnement des IA, soulevée par des experts comme Yann LeCun. Bien que les modèles soient impressionnants, Joëlle Barral reconnaît qu’il reste encore beaucoup à explorer. L’IA a déjà démontré des prouesses, par exemple en obtenant une médaille d’argent aux Olympiades de mathématiques avec un modèle d’IA combiné à un outil de preuve. Elle souligne aussi les avancées en IA dans des domaines scientifiques tels que la biologie. DeepMind a développé AlphaFold, un outil capable de prédire la structure en 3D des protéines, une technologie déjà utilisée par plus de 2 millions de scientifiques dans le monde. Selon Joëlle Barral, AlphaFold a permis d’accélérer la recherche scientifique de manière inédite, en permettant des prédictions qui auraient pris des décennies autrement. L’IA joue également un rôle clé dans la découverte de nouveaux médicaments et matériaux. En amont, elle permet de trier et d’analyser rapidement de vastes volumes de littérature scientifique. Par la suite, des outils comme AlphaFold aident à simuler et à tester de nouveaux candidats-médicaments ou matériaux, offrant des gains de temps et de ressources considérables. Joëlle Barral cite l’exemple de la découverte de 2,2 millions de nouveaux cristaux grâce à l’IA, dont 380 000 matériaux jugés stables. En ce qui concerne l’idée d’une intelligence artificielle générale (AGI), Barral préfère définir l’IA comme une technologie qui apprend à apprendre.

Les progrès de l’IA restent vertigineux. les nouveautés de ces derniers jours le démontrent à nouveau. 👉 Sélection de news IA pour bien commencer la semaine 😉 𝗟𝗮 𝗴𝘂𝗲𝗿𝗿𝗲 𝗱𝗲 𝗹’𝗜𝗔 𝗲𝘀𝘁 𝘂𝗻𝗲 𝗴𝘂𝗲𝗿𝗿𝗲 𝗱𝗲 𝘁𝗶𝘁𝗮𝗻𝘀. 👉 GPT4o revendique d’être l’assistant vocal le + efficace, ultra-intelligent, sans aucune latence. Bluffant, GPT-4o peut détecter et comprendre le ton et les émotions dans l'audio ! Interagir avec l’IA va devenir de + en + naturel = de la science-fiction à la réalité… 👉 Côté Anthropic, Claude débarque en Europe. 👉 Et Google annonce une recherche boostée par l’IA 🔎. 🔎 𝗔̀ 𝘀𝘂𝗶𝘃𝗿𝗲 𝗱𝗲 𝘁𝗿𝗲̀𝘀 𝗽𝗿𝗲̀𝘀 : Avec AI Overviews (ex. SGE), Google change encore la donne de la recherche en ligne. AI Overviews promet une recherche + intuitive et complète, transformant les moteurs de recherche en véritables moteurs de réponse. Un changement qui challenge à nouveau l'écosystème web et va impliquer à la mise en oeuvre de nouvelles stratégies de visibilité… 💣 𝗗𝗶𝘀𝗿𝘂𝗽𝘁𝗶𝗼𝗻 𝗲𝗻 𝗰𝗼𝘂𝗿𝘀 Anthropic vient de lancer un nouvel outil générateur de prompts pour les utilisateurs de son API. A partir d’un prompt initial, le générateur propose des prompts + efficaces, + précis et + fiables. La console offre aussi la possibilité d’intégrer de façon dynamique des variables, optimisant ainsi les prompts en fonction de diverses situations. Dans ces conditions, quel est avenir pour les Prompts Engineer ? 🤔 𝗤𝘂𝗲𝗹𝗾𝘂𝗲𝘀 𝗰𝗵𝗶𝗳𝗳𝗿𝗲𝘀 : Les coûts de formation des LLMs atteignent des sommets : GPT-4 d'OpenAI a consommé environ 78 M de $ de calcul pour son entraînement. Gemini Ultra de Google a coûté 191 M de $. Et les levées de fonds dans le domaine de la GenIA ont quadruplé en 2023 vs 2022 : 22,5 MM de $ (Artificial Intelligence Index Report 2024 Stanford University) 🛠️ 𝗘𝗻 𝗽𝗿𝗮𝘁𝗶𝗾𝘂𝗲 : Preuve que l’IA va contribuer à changer nos parcours de consommation, le nombre d’assistants grimpe en flèche pour guider nos parcours d’achat et simplifier notre quotidien. Exemple, Mindtrip - AI power travel - (en version bêta) propose de vous aider à choisir et organiser tous les aspects de votre futur voyage. Envie d’essayer ? https://mindtrip.ai/ Une séance de rattapage pour comprendre la Gen IA ? Dernier Cri vous la propose en 10mn de lecture, montre en main… Et c’est très réussi : https://bit.ly/3yqtHEo 💊 𝗘𝘁 𝗲𝗻 𝗱𝗲𝗵𝗼𝗿𝘀 𝗱𝗲 𝗹𝗮 𝘀𝗽𝗵𝗲̀𝗿𝗲 𝗺𝗮𝗿𝗸𝗲𝘁𝗶𝗻𝗴 ? Les 20 principaux groupes pharmaceutiques dans le monde recourent massivement à l’IA pour accélérer la découverte de nouvelles molécules. Grâce à l’IA, 10x plus d’essais cliniques ont été lancés qu’il y a 5 ans. Une étude du Boston Consulting Group (BCG) anticipe un doublement de la réussite de ces essais et donc de la productivité de la recherche. + de chances de guérir de nombreuses maladies grâce à l’IA 🎉 Et vous, quelles news #IA et #GenIA ont capté votre attention ces derniers jours 🤔 Arnault Chatel Flavien Chervet David Bonnamour

𝗛𝗶𝗲𝗿, 𝘂𝗻𝗲 𝗽𝗿𝗲𝗺𝗶𝗲̀𝗿𝗲 𝗾𝘂𝗶 𝗰𝗵𝗮𝗻𝗴𝗲 𝘁𝗼𝘂𝘁 : 𝗕𝗿𝗮𝗶𝗻𝟮𝗕𝗿𝗮𝗶𝗻.𝗟𝗮𝗯 ! J’ai eu le privilège d'assister à la toute première édition du Brain2Brain.Lab de AI Swiss. Nous nous réunissons souvent pour parler de l’avenir de l’IA, mais hier, nous avons fait bien plus que parler... 𝗣𝗹𝘂𝘀 𝗾𝘂'𝘂𝗻𝗲 𝗱𝗲́𝗺𝗼𝗻𝘀𝘁𝗿𝗮𝘁𝗶𝗼𝗻 Penser connaître les LLMs parce qu’on interagit avec ChatGPT, c'est un peu comme croire qu'on connaît la mer parce qu'on a trempé les pieds dans l'eau. Hier, nous avons plongé tête première dans le monde réel de l'IA, en codant quelques lignes en Python. 𝗗𝗲́𝗺𝘆𝘀𝘁𝗶𝗳𝗶𝗲𝗿 𝗹𝗮 𝘁𝗲𝗰𝗵𝗻𝗼𝗹𝗼𝗴𝗶𝗲 𝗮𝘃𝗲𝗰 𝘀𝗶𝗺𝗽𝗹𝗶𝗰𝗶𝘁𝗲́ Et si comprendre les LLMs était aussi intuitif que d'utiliser Google Translate? C'est ce que nous avons tenté de prouver hier avec des ateliers pratiques sur Google Collab, rendant cette technologie aussi accessible qu'excitante. Merci au professeur du soir Charles-Edouard Bardyn. 𝗟𝗮 𝘁𝗵𝗲́𝗼𝗿𝗶𝗲 𝗿𝗲𝗻𝗰𝗼𝗻𝘁𝗿𝗲 𝗹𝗮 𝗽𝗿𝗮𝘁𝗶𝗾𝘂𝗲 Que vous soyez un curieux de la première heure ou un expert aguerri, chacun a pu mettre les mains dans le code. Cette interaction directe démystifie l'IA et montre qu’elle est à la portée de tous. 𝗨𝗻𝗲 𝗰𝗼𝗺𝗺𝘂𝗻𝗮𝘂𝘁𝗲́ 𝗼𝘂𝘃𝗲𝗿𝘁𝗲 𝗮̀ 𝘁𝗼𝘂𝘀 Hier, plus de 30 personnes de tous niveaux ont découvert que l'IA n'est pas qu'une affaire d'experts. C'est un terrain de jeu pour l'esprit curieux, accessible à quiconque souhaite apprendre. 📢 Rejoignez-nous pour la prochaine édition et explorez les profondeurs de l'IA avec nous!

🚨 DeepSeek-V3 : La Chine au sommet de l’IA générative ? 🚨 Open source, plus rapide, moins cher et déjà accessible gratuitement, ce modèle pourrait bien redistribuer les cartes face à OpenAI et consorts. 🎯 Quelques faits marquants : • 671 milliards de paramètres, plus que Meta Llama 3.1. • Un coût d’entraînement 10 fois inférieur à celui des grands groupes américains. • Une API beaucoup moins chère pour attirer les développeurs. • Performances prometteuses en code et en mathématiques. ⚡ La stratégie ? Reproduire l’interface et la stratégie marketing d’OpenAI pour séduire les utilisateurs américains, tout en renforçant sa base en Chine. Et ça marche : les premiers benchmarks affichent des performances comparables aux leaders du marché comme GPT-4o ou Claude-3.5-Sonnet. 🤔 Faut-il s’inquiéter pour OpenAI ? Certes, OpenAI garde des avantages : multimodalité, mode voix, et intégration d’outils comme DALL·E. Mais l’open source et les faibles coûts de DeepSeek pourraient sérieusement concurrencer les modèles propriétaires américains. 👉 Vous pouvez tester DeepSeek-V3 gratuitement dès aujourd’hui. Une révolution en marche ? 🤷♂️ 📢 Et vous, qu’en pensez-vous ? La Chine peut-elle vraiment détrôner OpenAI ? #IA #DeepLearning #OpenSource #Innovation #Chine #OpenAI #DeepSeek

Yann LeCun travaille sur l’« objective driven AI », l’IA pilotée par objectif. C’est un concept très général. Ce n’est pas une idée nouvelle mais cela peut être la future architecture d’un système d’IA qui peut être capable de raisonner et planifier et qui comprend le monde physique selon lui. « L’intéressant est que ce n’est pas une architecture générative, il n’inclut pas de LLM. Il inclut des modèles du monde et il peut planifier et raisonner » conclut-il.« Pour les étudiants qui sont intéressés par la recherche en intelligence artificielle pour la prochaine génération de systèmes d’IA, je leur dis de ne pas travailler sur les LLM » déclare-t-il. « Ça ne sert à rien de travailler sur les LLM. C’est dans les mains des divisions produits dans les grandes entreprises. Il n’y a rien que vous puissiez apporter à la table. Vous devriez travailler sur la prochaine génération de systèmes d’IA qui lèvent les limitations des LLMs dont nous avons tous une idée de où elles sont » glisse t'il avec un sourire.

#News Les modèles de raisonnement DeepSeek-R1 se mesurent à OpenAI en termes de performance: Les récents modèles de raisonnement DeepSeek-R1 révolutionnent le paysage de l’intelligence artificielle. *Ces innovations* affichent des performances sans précédent qui *brident la suprématie d’OpenAI*. La lutte pour l’excellence entre ces géants de la technologie soulève des enjeux considérables. *Les capacités de raisonnement sophistiqué* de DeepSeek-R1 remettent en question les fondations mêmes du traitement du langage […] L’article Les modèles de raisonnement DeepSeek-R1 se mesurent à OpenAI en termes de performance est apparu en premier sur Actu.ai.@Actuai