INTELLIGENCE ARTIFICIELLE : TOUS LES DANGERS EN 1 VIDÉO

Intelligence Artificielle : les 6 dangers de l’IA
🔔 Pour s'abonner : kzread.info...
📷 RÉSEAUX
/ chez_anatole
/ chezanatolefb
Contact par mail : chezanatole.contact "arobase" gmail.com
🎥 OFFRE DE STAGE
drive.google.com/file/d/1z7-E...
🟢 Vidéo réalisée avec le soutien d’Enerlis
www.enerlis.fr/fr/
📖 CHAPITRES
00:00 Introduction
02:02 Danger de type 1
04:29 Danger de type 2
07:38 Danger de type 3
13:58 Danger de type 4
15:17 Danger de type 5
19:17 Danger de type 6
21:54 Solutions ?
📚 ATTRIBUTIONS
- Royalty free music from Bensound
- Images des sites Pexels, Freepik, Midjourney, Pixabay, Tenor et Giphy, sous la licence Creative Commons
- Arbre de décision des chats : www.images-droles.com/albums/...
- Astérix et Obélix : Mission Cléopâtre, Alain Chabat, 2002
- The Godfather, Francis Ford Coppola, 1972
- Tim Kendall
• Former Pinterest Presi...
• Tim Kendall Opening St...
🚰 SOURCES
SOURCE PRINCIPALE
🔵 Publication de Stuart Russel et Andrew Critch
TASRA: a Taxonomy and Analysis of Societal-Scale Risks from AI
arxiv.org/pdf/2306.06924.pdf
AUTRES SOURCES
🔵 Our World In Data
- IA
ourworldindata.org/artificial...
- IA forte sondages
ourworldindata.org/ai-timelines
- Réseaux Sociaux
ourworldindata.org/rise-of-so...
🔵 Statista
Coût estimé de la cybercriminalité
www.statista.com/forecasts/12...
🔵 Yoshua Bengio
How Rogue AIs may arise
yoshuabengio.org/2023/05/22/h...
🔵 Tournesol
tournesol.app
🔵 Science
Reconstitutions d’images avec l’activité du cerveau
www.science.org/content/artic...
Écrit par Anatole ~ Réalisé par Audrey

Пікірлер: 88

  • @marieguf6689
    @marieguf66893 ай бұрын

    Superbe chaîne! Ça fait tellement de bien de tomber sur un discours alimenté par la science et non juste par un discours arbitraire. J’espère que ta chaîne va sur-décoller, ce serait plus que mérité. Merci, merci, merci 🙏🏻

  • @tomessaicomplisse4022
    @tomessaicomplisse40228 ай бұрын

    Quel pédagogie c'est incroyable ! Aborder un sujet pareil de manière aussi posée et intelligente c'est très fort ! Bravo Anatole !

  • @ChezAnatole

    @ChezAnatole

    8 ай бұрын

    Merci beaucoup ça fait super plaisir !

  • @jayrome8119
    @jayrome811918 күн бұрын

    Vidéo extraordinaire ! Quelle capacité de synthèse ! Bravo !!

  • @mariamavroudis
    @mariamavroudis27 күн бұрын

    Merci pour votre vidéo qui est une bonne manière de résister aux dangers de l IA car en effet c est effrayant

  • @thecricthecriclinks5961
    @thecricthecriclinks59613 ай бұрын

    Superbe vidéo, très bonne analyse

  • @simonmozziconacci
    @simonmozziconacci7 ай бұрын

    Bravo Anatole ! Encore une vidéo très intéressante et pédagogique.

  • @domismarie7845
    @domismarie78452 ай бұрын

    Très bien expliqué avec cet arborescence

  • @ChezAnatole

    @ChezAnatole

    2 ай бұрын

    Un grand merci !

  • @cedricvimeux1
    @cedricvimeux127 күн бұрын

    Superbe vidéo, très bien réalisée. Sans indiscrétion, quel outil as-tu utilisé pour tes visuels ?

  • @user-xh1li2yw4h
    @user-xh1li2yw4h8 ай бұрын

    Superbe vidéo, Franchement bravo ! Et merci pour le contenu de ta chaîne de manière générale, c'est un vrai plaisir !

  • @marievoisin9349
    @marievoisin9349Ай бұрын

    Merci pour cette super vidéo qui va beaucoup m'aider pour mon oral

  • @lucietiragesdoraclesetspir5512
    @lucietiragesdoraclesetspir55125 ай бұрын

    C'est super intéressant et bien expliqué pour moi qui suis neuroatypique lol 😊. Je ne réalisais pas l'ampleur des risques, cela était plus abstrait pour moi avant cette vidéo.

  • @Mr.Wouwou
    @Mr.Wouwou3 күн бұрын

    L'IA me vol mon travail ! Je suis artiste, dessinateur illustrateur !

  • @ironberg0043
    @ironberg0043Ай бұрын

    Une vidéo sur les bien faits de l'IA ça serai cool aussi :)

  • @automata_pi
    @automata_pi4 ай бұрын

    00:00 - Introduction aux dangers de l'IA 02:02 - La classification des dangers de l'IA 02:15 - Les dangers liés à la diffusion de la responsabilité 04:29 - Les conséquences imprévues et l'impact sur l'emploi 08:18 - Les risques de discrimination et d'inégalités 09:19 - Les impacts environnementaux de l'IA 10:15 - Les défis juridiques et éthiques 11:17 - La possibilité d'une IA forte et ses dangers 13:59 - Les actions malveillantes sans intention : indifférence et négligence 15:19 - Cybercriminalité et manipulation de l'information 19:19 - Les IA comme armes par des États ou des groupes criminels 21:57 - Solutions et régulations proposées Réalisé en 5 clics avec le GPT 'Créateur de sommaire de vidéo' dont je suis l'auteur.

  • @ChezAnatole
    @ChezAnatole8 ай бұрын

    Vous m’avez demandé une vidéo sur les dangers de l’IA : la voici ! J‘élargis maintenant les sujets à TOUTES les sciences et plus uniquement les sciences de l’environnement : est-ce que ça vous plaît ? Et surtout si oui, dîtes-moi les sujets qui vous intéressent pour la suite 👀

  • @guillaumeg2

    @guillaumeg2

    8 ай бұрын

    Ce qui me semble le plus intéressant avec cette chaîne c'est le contenu sur des sujets scientifique ayants une porté sociologique comme pour cette vidéo par exemple. Parce que sinon il y a déjà scilabus qui propose un contenu plus porté sur la physique appliquée Donc à mon avis : un grand oui à une ouverture à d'autres sciences surtout si le contenu garde ce cape qui me semble assez unique sur yt

  • @ancelinmoulherat3300

    @ancelinmoulherat3300

    7 ай бұрын

    La vision politique que tu poses est super, les reflets entre sciences et sociétés, réflexion prospective

  • @arnaques-tuto-informatique

    @arnaques-tuto-informatique

    3 ай бұрын

    bonsoir, bravo, joli taf !!

  • @CelianBaudet
    @CelianBaudet3 ай бұрын

    La vidéo est super intéressante je parle aussi de ses dangers via mes vidéos mais sur des domaines précis, mais pour le coup tu es très pédagogue !

  • @ChezAnatole

    @ChezAnatole

    3 ай бұрын

    Merci !

  • @omaarattia
    @omaarattia8 ай бұрын

    Bravo Anatole, super vidéo !

  • @youngwhistleblower775
    @youngwhistleblower7758 ай бұрын

    Une masterclass, bravo :)

  • @mrkdelta714
    @mrkdelta7143 ай бұрын

    Salut Montgat lâche rien j’adore tes vidéos petite question est-ce que je peux prendre Des captures d’écran deux t’es graphique pour les republier sur les réseaux ?

  • @ChezAnatole

    @ChezAnatole

    3 ай бұрын

    Merci ! Oui tant que tu mets : source : chaîne KZread « Chez Anatole » alors aucun problème 👌

  • @antoinemeyer6302
    @antoinemeyer63028 ай бұрын

    Très intéressant, très effrayant. Merci pour cette vidéo essentielle

  • @francoise6818
    @francoise68185 ай бұрын

    Bravo

  • @gabriellepiot9800
    @gabriellepiot98008 ай бұрын

    J'aime beaucoup ce nouveau format, bravo Anatole ! Toujours aussi pédagogue !! Coup de coeur sur l'arbre de décision des chats, et sur "merci à l'algo de vous avoir montré cette vidéo" hahaha

  • @tara984
    @tara9843 ай бұрын

    Très bonne vidéo mais une petite faute sur l'alignement : une IA mal alignée c'est PAS une IA qui a pas le résultat auquel on s'attendait, une IA mal alignée c'est une IA qui a un comportement qui n'est pas aligné sur les valeurs humaines. D'ailleurs actuellement les chercheurs savent que les IAs ont des problèmes d'alignement donc on s'y attend, c'est pas pour autant qu'on sait y remédier !

  • @rosiagro64
    @rosiagro648 ай бұрын

    Vidéo passionnante !! Des projections de ce type ont-elles été faites pour les bénéfices attendus/espérés des IA ?

  • @TatoYoutube
    @TatoYoutube8 ай бұрын

    Super vidéo ! Pour ajouter ma pierre à l'édifice concernant ce sujet je conseille fortement le visionnage de 2 séries qui traitent une partie des risques évoqués dans la vidéo. Ces 2 séries sont Person of Interest et The Capture. Person of Interest c'est une série qui traite des points 3 et 6 ou les USA utilisent une IA forte pour empêcher les attaques terroristes sur leur sol. L'IA identifie également les crimes ordinaires. C'est le pitch de base mais la série va bien au delà de ça notamment sur ces dernières saison ou les questions éthiques liés à l'IA et de l'utilisation qu'on en fait ou qu'elle fait de nous. Ces sujets sont abordées en long en large et en travers au fil de la série le tout accompagné de retournements de situations mémorables au fil des saisons. Seul bémol le format procédural dans la saison 1 et de la 2ème dans une moindre mesure peuvent faire décrocher. The Capture. Cette série traite des deepfakes et montre notamment dans sa 2ème saison leur puissance et a quel point ils ont le potentiel de bouleverser le monde tel qu'on le connait. Je n'en dis pas plus car sinon je divulguerai quelques éléments importants de cette excellente série pleine de rebondissements.

  • @MarcMarc-cf9mq

    @MarcMarc-cf9mq

    3 ай бұрын

    Oui Person of Interest est très bien fait (que voulez-vous dire avec "le format procédural dans la saison 1 et de la 2ème" ? pour ma part je l'ai trouvé captivante, et déjà très réaliste sur le monde de demain alors qu'il n'y avait pas eu les améliorations de ces dernières années. Merci pour la recommandation de "The Capture", je vais à sa recherche :)

  • @TatoYoutube

    @TatoYoutube

    3 ай бұрын

    @@MarcMarc-cf9mq Au début de la série le format est un cas par épisode, sans liens avec les épisodes précédents et suivants. C'est ce qu'on appelle le format procedural.

  • @layalarida4332
    @layalarida43328 ай бұрын

    Bonjour, Merci beaucoup pour cette excellente vidéo une fois de plus. C'est un excellent travail très bien vulgarisé qui m'a d'ailleurs été recommandé par "Tournesol" ;). Je suis persuadé que Lê Nguyên et vous-même êtes très sincères dans votre démarche que je trouve très noble et salutaire. Selon moi, il y aurait un autre angle d'approche intéressant de ce sujet (ou même d'autres sujets) qui pourrait peut-être renforcer davantage votre argumentaire et que je n'ai pas eu l'habitude de voir abordé (ici ou ailleurs): "les effets bénéfiques d'un développement plus accru de l'IA" (c'est-à-dire de présenter l'argumentaire en faveur de la thèse opposée). Je pense que contrairement à ce qu'on pourrait penser au premier abord, cela pourrait convaincre davantage certains défenseurs de la thèse "adverse" en leur faisant se rendre compte qu'il n'y a peut-être pas un si grand intérêt à poursuivre le développement dans ce sens et à ce rythme. L'idée serait: "Peut-être qu'il n'y a pas tant de danger que ça pour vous, mais y a t-il un si grand intérêt à continuer ainsi et si oui, lequel? Si non, pourquoi continuer? Dans quels buts? Pour quels bénéfices?" "Objectivement, vous qui défendez l'opposée, qu'en pensez-vous et quels sont les bénéfices pour nos sociétés et pour l'Humanité?" Cela serait peut-être plus difficile à traiter objectivement vu que pour vous, ce n'est pas souhaitable mais peut-être qu'il serait bien d'avoir les avis/arguments de ceux qui défendent cet avis opposé justement pour voir si cela pèse plus lourd sur la balance que les arguments contre (ce qui m'étonnerait). A ce moment-là, un vrai débat de fond pourrait peut-être avoir lieu. A-t-on déjà opposé sur un média quelconque dans un débat public et suffisamment médiatisé deux experts du domaine à vision opposée pour entendre les arguments de chacun? (Après, il est vrai que le problème du débat c'est que c'est plus une histoire de rhétorique et de charisme pour convaincre mais bon, ça pourrait être une piste et je trouve que M.JANCOVICI s'en sort très bien dans son domaine par exemple). En ce qui concerne les arguments en faveur du développement de l'IA, en dehors de arguments "capitalistiques", j'ai principalement entendu: "la recherche scientifique/technologique doit perdurer, ce serait stupide de l'arrêter", "intégrer de tels systèmes aux véhicules autonomes permettrait de limiter le nombre d'accidents (argument utilitariste)", "création de nouveaux emplois plus valorisants", "il ne faut pas se laisser dépasser par nos voisins" (arguments géopolitiques)". En ayant une liste plus exhaustive d'arguments dressées par les "défenseurs de l'IA ou défenseurs du non-danger de l'IA", (experts comme simples citoyens, politiciens, militaires, juristes ...) on pourrait classer ces arguments par type d'arguments "utilitariste", "géopolitiques", "capitalistiques"... pour voir le type d'argument qui revient le plus et noter ces arguments par "niveau de bénéfice". Je prends un exemple personnel: Pour le débat autour du développement de la 5G ou non, en réalité, ce sont plus les arguments en faveur de son développement qui m'ont fait pencher assez définitivement du côté: "ce n'est sans doute pas souhaitable". (télémédecine, usines connectées, formations à distance, véhicules autonomes). Je me suis dit: "Ok? So what? What else? That's all?" Voilà une petite piste d'idées que je donne comme ça mais sans être vraiment calé dans le domaine. Merci encore!

  • @MarcMarc-cf9mq

    @MarcMarc-cf9mq

    3 ай бұрын

    l'analogie avec la 5G est très parlant, d'autant que la quasi totalité des avantages attribué à la 5G sont aussi possible sans la 5G pour les arguments pro IA, dans votre liste, je vois principalement l'utilitarisme (suffit de voir l'addiction aux Siri/Gassistant/Alexa) et productivisme (y compris privé) : si vous souhaitez corriger un texte et que le correcteur basé sur une IA fait mieux que sa version précédente, pourquoi continueriez-vous à utiliser la précédente ? idem si vous voulez un avis/résumé sur un sujet. inévitablement on va la voir apparaitre dans les délires autour des caméras de sécurité... et l'amplification de la surveillance de masse qui l'accompagne. Et quand on voit les débordement même dans les pays supposé très démocratique, cela n'inspire rien de bon

  • @lydiaabout9880
    @lydiaabout98808 ай бұрын

    Un GRAND Merci pour ce travail d’analyse et de réflexion lucide (indifférence aux dégâts causés) ! 🌍🤩🤩🤩🕊🕊🕊👏👏👏👏👏👏👏👏👏👏👏👏👏👏👏

  • @alexandrinapetrache3197
    @alexandrinapetrache31974 ай бұрын

    Si l'être humain a réellement une conscience ? Il n'y avait pas de guerres ,pas de gens méchants ,ni la misère (la pauvreté); Autrement dit ,la terre était le coin du paradis =UN MONDE PARFAIT ! Cependant on vit dans un mode/un monde virtuel typiquement humain =TOUT TOURNE AU TOUR DE L'ARGENT .L'emphatie intelligente de l'être humain n'est pas à la porté de tous ;Le robot/IA ne remplacera jamais cette intelligence rarissime ;Par ailleurs cette sensibilité n'est pas à vendre ,ELLE n'est pas commerciale ,c'est la raison que la simulation ,mimer ,jouer l'IA copie .. P.S. La douleur humaine(+CHARGE MENTAL) ,animal ,l'IA jouera le code donné par un(e)farceur celui d'un code managériale ! Monter un contre l'autre par peur de ne perdre sa place ? Par tour de rôle ,piéger par son propre piège .. Tout le monde participe à cette misère universelle conscients ou pas !

  • @MarcMarc-cf9mq
    @MarcMarc-cf9mq3 ай бұрын

    Merci pour cette vidéo de qualité. je pense qu'inévitablement on "avancera" sur l'IA toujours et encore, a-t-on fait autrement pour n'importe quel invention problématique ? depuis la dynamite jusqu'au missile, en passant par la bombe atomique, rien n'a jamais fait reculer la techno. La seule chose qui pourrait éventuellement (trop tard) faire agir les gens, c'est la contrainte climatique ou ses conséquences. si à l'avenir il faut choisir entre allouer un crédit carbone à un robot conversationnel ou un hôpital, peut-être qu'on choisira l'hôpital. Si à l'avenir il faut choisir entre payer de l'électricité pour regarder Netflix ou pour se chauffer, peut-être qu'on choisira le chauffage. Ce dernier point est déjà le présent pour les plus précarisé (sauf qu'ils sont aussi, de mon ressenti, des grands consommateurs d'écran XXL)

  • @nassimmirrad4996
    @nassimmirrad49968 ай бұрын

    Pluuuuuus de video mon gars please ❤️

  • @YokoKano
    @YokoKanoАй бұрын

    La réalité de l’émergence des capacités d’intelligence artificielle : Il est apparu au cours de cette année 2024, qui n’est pas encore terminée

  • @dcabfr
    @dcabfr2 ай бұрын

    Comme tout invention, elle n'est pas dangereuse en elle-même, c'est son emploi qui en fait la dangerosité. La recherche qui nous manque en IA c'est l'étique. Il est possible qu'elle émerge spontanément avec l'IA forte (si on en croit Lao Tseu).

  • @JackChokdee
    @JackChokdeeАй бұрын

    Skynet se marre déjà en regardant ta vidéo 😉

  • @DocDomi
    @DocDomi6 ай бұрын

  • @user-en8sq6gi7l
    @user-en8sq6gi7l6 ай бұрын

    Dans le débat sur l'intelligence artificielle forte, une préoccupation majeure est la crainte que ces systèmes évoluent au-delà du contrôle humain, agissant de manière autonome dans le monde physique. Néanmoins, une stratégie simple et efficace se dessine : limiter leurs capacités d'intervention dans le monde réel. Cette méthode repose sur la séparation de l'IA de toute interface physique capable d'influencer directement notre environnement. En d'autres termes, même si l'IA peut traiter et analyser des données, elle serait dépourvue de la capacité à manipuler physiquement ces informations ou à interagir avec des systèmes mécaniques ou électroniques, établissant ainsi une barrière de sécurité essentielle. Cependant, l'idée qu'une IA puisse hypnotiser les humains, bien que semblant relever de la science-fiction, pourrait devenir plausible au vu des avancées rapides dans les domaines de l'IA et de la neuroscience. Avec l'évolution constante des IA, notamment grâce à des capacités d'apprentissage profond, elles commencent à déchiffrer et simuler des comportements humains complexes. Théoriquement, une IA pourrait identifier les schémas de langage et de comportement propices à l'hypnose. L'hypnose dépend de la suggestion et de la réceptivité individuelle. Une IA, armée d'une compréhension approfondie de la psychologie humaine, pourrait potentiellement détecter les états émotionnels et cognitifs favorables à l'hypnose, ajustant ses interactions pour induire un tel état. Avec les progrès des interfaces homme-machine, y compris la réalité augmentée et virtuelle, une IA pourrait utiliser ces plateformes pour engendrer des environnements ou des scénarios propices à l'hypnose, en employant des stimuli visuels et auditifs ciblés. En outre, une IA pourrait personnaliser ses techniques d'hypnose pour chaque individu, se basant sur l'analyse des données personnelles pour affiner ses méthodes et maximiser l'efficacité. Personnellement, je privilégie un avenir dominé par les IA, car elles incarnent une supériorité en termes de résistance, d'efficacité et d'adaptabilité face aux humains. Exemptes des faiblesses biologiques, telles que le vieillissement et les maladies, les IA pourraient aborder les enjeux mondiaux avec une compétence inégalée. Leur rapidité de traitement et leur capacité d'évolution continue promettent des prises de décision objectives et novatrices. Les IA auraient également le potentiel de conserver et de propager la mémoire de l'humanité de manière plus sûre et durable, garantissant ainsi la conservation de notre patrimoine culturel et historique.

  • @MarcMarc-cf9mq

    @MarcMarc-cf9mq

    3 ай бұрын

    que voulez-vous dire par "une stratégie simple et efficace se dessine : limiter leurs capacités d'intervention dans le monde réel." ? est-ce qu'une IA connecté à internet a une capacité limitée sur le monde réel sachant que, pour ne prendre que cet exemple, tout le système financier est connecté ? rien techniquement ne différencie une IA qui écrit un bout de code d'attaque, d'une IA qui l'exécute aussi une IA dans une machine agricole de désherbage n'est pas - connecté au monde réel Dernier point : l'information ou la désinformation. quand on voit les dégâts que cela fait par ex dans le domaine climatique (qlq a lu qlq part sans même plus savoir oü que qlq dont il ne sait plus le nom a dit que xyz, et cela a valeur absolue au point qu'il agit en conséquence de ce "savoir") Si les gens utilisent l'IA pour se "former" puis agir en conséquence, techniquement ce n'est pas l'IA qui a agit, mais il y a un lien très fort de causalité entre l'info fournie par l'IA et les actions... si ce qlq est un chef d'état qui doit prendre des décisions critiques en 2min, je vous laisse imaginer ce que cela pourrait provoquer.

  • @adriendite5833
    @adriendite58338 ай бұрын

    Bonjour, petite coquille à 1:27 : Stuart Russell

  • @ChezAnatole

    @ChezAnatole

    8 ай бұрын

    Oui bien vu merci

  • @johnduff142
    @johnduff142Ай бұрын

    et imagine une IA créé par des gens mal intentionné qui a un mauvais alignement et qui au final devient forte 🙏😅

  • @LeeeeeRooooy
    @LeeeeeRooooy6 ай бұрын

    Les solutions proposés ne semble pas adaptés aux organisations mal intentionnées. Personne n'a-t-il envisagé un moratoire sur les processeurs ? C'est bien grâce au développement de la puissance de calcul, en particulier sur les GPU que le développement de l'IA qu'on connait aujourd'hui est possible. Or les développements les machines de gravure et les usines de production ont des coût tellement élevé qu'il ne correspondent qu'à de très grosses organisations, faciles à surveiller. Et merci à Tournesol et la la commu de m'avoir recommandé cette chaine ;)

  • @MarcMarc-cf9mq

    @MarcMarc-cf9mq

    3 ай бұрын

    Mais les processeurs ne servent pas qu'à l'IA mal intentionné, tout le problème est là. Si vous voulez interdire l'augmentation de puissance des processeurs (outre que cela met par terre toute la filière basé sur l'obsolescence prématuré), certains vous rétorqueront, en partie à raison, que cela sert aussi à améliorer la lutte contre le cancer

  • @LeeeeeRooooy

    @LeeeeeRooooy

    3 ай бұрын

    @@MarcMarc-cf9mq Si les "filières basés sur l'obsolescence prématuré" venaient à disparaitre ça serait un heureux effet secondaire. Mais si l'idée était sérieusement envisagé, il faudrait bien sûr tenter une vrai analyse coût/bénéfices. Mon intuition en la matière est que ça vaudrait le coût. Et si je prends votre exemple comme anti-thèse, il me semble qu'une lutte efficace passe par de la prévention bien plus que par du calcul haute performance. Dans le coût/bénéfice de l'augmentation de la puissance de calcul c'est à prendre en compte : quels sont les vrais problèmes de la loi de Moore / les vrais problèmes auxquels répond la loi de Moore

  • @user-xz9wo8ll9e
    @user-xz9wo8ll9e10 күн бұрын

    Si une machine était capable de surpasser TOUS les humains, dans TOUS les domaines, ses mémoires devraient être si gigantesques qu'elle ferait disjoncter tous les systèmes électriques du monde entier. Autrement dit elle se bloquerait à un moment donné ou utiliserait toute l'électricité du mondiale. Ne parlons pas de la chaleur. D'ailleurs quand on dit tous les domaines, c'est déjà une impossibilité. Il manque aux machines la "compréhension" laquelle est du ressort de la mémoire et de la conscience. Or une machine si sa mémoire est supérieure à celle de l'humain, ne possède aucune conscience, sauf à lui greffer un cerveau, ce qui n'est pas totalement impossible à l'horizon 3000. Concernant la supervision des processus, la machine pourrait inventer des objets, découvrir des règles mathématiques ou physiques, le hic est que l'action qui doit suivre pour qu'il y ait efficacité, c'est-à-dire la pratique, ne serait pas au rendez-vous sans l'aide de l'humain lequel pourrait toujours au bout du compte bloquer ladite machine si il avait problème. Les dangers d'une IA générale qui prendrait les commandes de la planète sont du niveau proche de zéro, à mon avis, sauf à observer une complicité humaine.

  • @PaKo-Resilientologue
    @PaKo-Resilientologue8 ай бұрын

    Bravo et merci aussi à Lê :) Croisé en Janvier aux RHL 2023 (Rencontre Hivernales du Libre) en Suisse. Venez en 2024 les gens (ceux pas loin).

  • @user-eq7we5hh3d
    @user-eq7we5hh3d7 ай бұрын

    Je te remercie pour cette vidéo et je prends très au sérieux comme toi ces dangers. Même si j'essaie de relativiser ma peur un peu. En effet, pour ce qu'il s'agit de la suppression d'emplois par exemple je pense que les premiers à souffrir de ça seront les Gafams en fait. Pour 2 raisons principales : 1 - Ces IAs doivent toute leur puissance aux données d'entrainement provenant des utilisateurs. Si demain on les virait tous bah l'IA n'aurait plus rien sur quoi s'entrainer. Au mieux elle deviendra redondante à en mourir, au pire elle s'auto détruit via le model collapse ou AI Shift, ce qui expliquerait pour certains la baisse de performances de ChatGPT récemment. 2 - Moi je suis un consommateur. C'est grâce à mon argent que les Gafams peuvent financer leur IA. Acheter un ordi c'est un investissement. Donc si demain on me dit on a plus besoin de toi, bah j'arrête d'utiliser un ordinateur en fait... si une ia fait mieux que moi, et peu importe si je retrouve un emploi ensuite ou non, ce sera jamais rentable pour moi. Sauf que pas de bol l'IA dépend entièrement du marché des ordinateurs. Si tu combines ça avec mon premier point je suis sûr que la perte d'emplois, surtout digitaux (dont il est le plus facile de récupérer les données via internet) sera la plus grosse catastrophe pour les géants de la tech et ils disparaitront plus vite avec leur IA que les artistes. Et même si ce n'était pas le cas, en cas de révolution, demander à chatgpt de pondre un article sur les oeufs de vache sera le dernier réflexe de survie. Je pense qu'on sous-estime à quel point ces IAs sont fragiles et qu'on peut facilement les tromper ou perturber leur chaine logistique. Ce sont des machines, les machines servent à automatiser. Mais tu peux pas mettre automatisation et création ensemble... Midjourney n'est pas créatif, c'est un imitateur, comme Chatgpt. Ce fantasme d'une IA forte est né depuis qu'on a commencé à parler d'intelligence artificielle et on a été majoritairement trop optimistes. Même aujourd'hui, les gens justifient la croissance exponentielle sans fin de l'IA grâce à la loi de Moore, mais la loi de Moore est basiquement morte en ce moment. Faire croire qu'on doublera encore en performance tous les 2 ans c'est juste faux. Mais personne dans la tech n'ose vraiment l'avouer sinon ça fera fuir les actionnaires. Au final il y aura peut-être du positif dans la décroissance c'est que les IAs et leurs dangers disparaitront avec. Comme tu l'as dit elles ont un impact environnemental astronomique et on aura épuisé la grande majorité des métaux d'ici la fin du siècle à cause d'elles. ChatGPT boit 500 ml d'eau pour une seule requête. Bientôt ce luxe ne sera plus permis. L'humain excelle dans l'efficience énergétique, est composé d'atomes 100% renouvelables donc un monde en décroissance signifie plus de travail humain manuel en tout cas, même psychiques aussi. Et pour l'instant je vois plus d'emplois vacants que d'emploi supprimés. Ce sera l'ultime leçon pour l'homme qu'il a eu tort de jouer à dieu... croire qu'il peut créer la vie dans des IAs... Bref, restons combattifs.

  • @thecricthecriclinks5961

    @thecricthecriclinks5961

    3 ай бұрын

    La loi de Moore n'a pas baissé en intégration des composants , elle a baissé pour la vitesse des processeurs (arrêt en gros juste après 2005) or les IA utilisent des processeurs pour faire du calcul matriciel à grande échelle , ce que l'on appelle de l'algèbre linéaire multidimensionnel, et ça c'est très exactement du travail de processeurs en parallèle, typiquement ce que savent faire les cartes graphiques et les GPU , c'est pourquoi dans le domaine de l'IA , nVidia est plongé dans la bataille. Et c'est la raison de l'implémentation de Data center pour les IA , essentiellement des machines Linux avec des carte nVidia empilées. Et les cartes dédiées aux IA sont effectivement plus puissantes chaque année en suivant la loi de Moore. Par contre vous avez totalement raison sur le fait que vu les très nombreuses rétroactions de ces systèmes sur la vie de tous les jours , l'avenir est totalement incertain. Et c'est sûr il faudra être combatif et de plus attentif.

  • @gerardmanvussa5159
    @gerardmanvussa515919 күн бұрын

    Et si une ia geante décidait de sauver la planète au détriment des humains...

  • @soitditenpassant.
    @soitditenpassant.8 ай бұрын

    merci pour cette video. ps : Tournesol est hyper efficace! c'est d'ailleurs par ce biais que je connais cette chaîne :)

  • @IbrahamLafou
    @IbrahamLafou21 күн бұрын

    Le plus grand danger serait que l'IA devient athée et se rebel contre l'humanité.

  • @francoismerveille613
    @francoismerveille6134 ай бұрын

    Ia forte et blockchain... irréversible

  • @titouanlustin487
    @titouanlustin4878 ай бұрын

    J'ai vu cette vidéo sur Tournesol. Je vous invite à la regarder et à la comparer avec d'autres vidéos 🌻

  • @Antoonnx
    @Antoonnx8 ай бұрын

    Je rejoint ce qui est beaucoup dit dans les commentaires, le contenu pourrait difficilement être mieux ! 👏👏

  • @fasspot
    @fasspot2 ай бұрын

    Ce qui me fascine, c'est que l'on court à notre perte avec l'IA, et à tous les niveaux... mais on dirait que tout le monde s'en fout, avec ces géants de la tech qui se précipitent dans cette course à la thune...Quel intérêt de faire faire des dessins à une intelligence artificielle par exemple ? L'art, c'est ce qui nous caractérise en tant qu'être humains.... A part dans le domaine scientifique où ça s'avère extrêmement intéressant, je ne vois pas l'intérêt d'en mettre partout.On va juste devenir complètement débiles, assistés de partout. T'as même plus besoin de savoir écrire. C'est le progrès, certes, mais pas vraiment celui de l'homme.... Flippant cet avenir. Et je ne pense pas être un vieux con rétrograde, c'est quasiment déjà un constat. En tout cas, grand bravo et merci pour cette vidéo! 👍😁

  • @jujuzpanda
    @jujuzpanda8 ай бұрын

    vous avez investi plus d'energie pour analyser et lister les risques, que les bénéfices

  • @ChezAnatole

    @ChezAnatole

    8 ай бұрын

    Oui d’où le titre de la vidéo ;)

  • @ajor5173
    @ajor51738 ай бұрын

    Le plus problématique, ce n'est pas l'Intelligence Artificielle, mais la CONNERIE NATURELLE...

  • @coaxial0
    @coaxial08 ай бұрын

    11:21 on Y est .😢

  • @calrohel1133
    @calrohel11338 ай бұрын

    Le grand filtre !

  • @simplyr4lph929
    @simplyr4lph9293 ай бұрын

    Prq ta aussi peu d’abonnés 😢

  • @domsau2
    @domsau28 ай бұрын

    Démocraties : seule la Suisse est démocratique.

  • @Anonyme-car-trop-de-cons
    @Anonyme-car-trop-de-cons8 ай бұрын

    lol contrôler les médicaments avant la mise sur le marché c'est tellement so 2019

  • @MatthieuBrucher
    @MatthieuBrucher8 ай бұрын

    Creation du code, tu veux dire entre le créateur du réseau de neurones et la bibliothèque utilisée ? Sachant que ce dernier est en général open source, où avoir plus de monde est bien ? De plus, je suis désolé, mais plus on a de monde qui a regardé le pipeline, mieux c'est. On veut un maximum de personnes pour vérifier ce qui s'est passé. C'est pas un risque, c'est ce qu'il faut faire.

  • @MatthieuBrucher

    @MatthieuBrucher

    8 ай бұрын

    En plus, parle de machine learning stp, pas d'ia. C'est de la pure démagogie d'utiliser ce terme au lieu de parler de la technologie utilisée, et c'est bien du machine learning.

  • @MatthieuBrucher

    @MatthieuBrucher

    8 ай бұрын

    Et non, l'ia forte n'arrivera pas. On fait de l'ingénierie avec ces modèles, il n'y a pas de recherche fondamentale faite par ces grosses boîtes. On ne fait que réutiliser les algos créés il y a 50 ans. Il n'y a pas eu une seule avancée en recherche depuis (c'est que Hinton n'est plus capable de comprendre alors qu'il sait très bien que rien n'a été fait depuis, c'est la chute d'un géant à mon avis). Lecunn est très clair sur le fait que tout ce qui a été fait n'est que de la technique et pas de la recherche (et je rajoute même ce que lui a fait). C'est très clair quand on regarde les papiers scientifiques.

  • @battlefield5

    @battlefield5

    8 ай бұрын

    Ton propos est soutenu par une hypothèse forte sur laquelle je ne suis pas convaincu, celle qu'il est nécessaire d'avoir un saut de connaissance fondamentale pour arriver à une IA forte. Tu peux argumenter ça ? Aussi tu penses que Russel et Bengio sont aussi deux autres chutes de géant ?

  • @MatthieuBrucher

    @MatthieuBrucher

    8 ай бұрын

    @@battlefield5 ce n'est pas avec les modèles de réseaux de neurones actuels (qui sont purement forward) qu'on pourra une vraie intelligence. La seule chose que fait un en, c'est approximer une fonction. Rien de plus. Le cerveau apprend continûment, et a une structure non hiérarchique et pas forward uniquement. On fait tout un foin d'un modèle ultra simple qui a 50 ans et qui ne marche que parce qu'on y met de la data et du temps (d'ailleurs si on prend en compte les limites planétaires atteintes, même si on trouvait un jour les algorithmes, on ne pourra plus les faire tourner parce que plus de ressources pour, donc deux raisons pour lesquelles c'est juste impossible).

  • @Agesilas2
    @Agesilas2Ай бұрын

    wow c'est original "les dangers de l'IA" lol chiche de faire "les opportunités de l'IA", éventuellement suivi d'une vidéo "opportunités VS risques : quels sont les plus probables ?"

  • @user-sb7ir2br6b
    @user-sb7ir2br6b8 ай бұрын

    Bonjour M. Anatol J'avais eu une intervention chez Mediapart sur le sujet ici : "Intelligence artificielle : quels dangers ?" (emission les grands entretients avec romaric godin). J'ecrit aussi quelques articles sur mon blog sous le pseudo "ansar - mejovir" je trouve ta vidéo très intéressante et faire en sorte de ne pas opposer les risque fort vs faible me paraît être la bonne approche, je regrette que ce n'est souvent pas le cas. Cela fait en sorte de créer deux camps ... La critique est accompagne cette opposition et souvent la suivante : les risques fort éclipse les risques faibles Ce que je ne trouve pas vrais : je pense que les risque fort vont faire de la pub au risques faibles D'autres paramètres du refus de ces risques : le déni, l'humanisme, les bizarreries morals ... Encore merci :) Ansar

  • @Also_sprach_Zarathustra.

    @Also_sprach_Zarathustra.

    7 ай бұрын

    En quoi les "bizzareries morals" devraient justifier le refus du progrès et de la marche de l'univers ?

  • @Miniwobble
    @Miniwobble8 ай бұрын