[I.A] Skynet Resistenza!

[Kandjar]

Tu noteras que je ne dis pas "fin de l'humanité", mais "fin de nos sociétés" ce qui est une nuance de taille,

Moi je parlais de fin de l'humanité. Pour répondre à Jacob Coxon par exemple : « Les gens qui construisent l’IA croient qu’elle pourrait tous nous tuer d’ici à la fin de la décennie »

Ou Evan Hubinger : « Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains »

Et à l'écho que Dario Amodei, Sam Altman, Elon Musk donnent à leurs propos. Après, je sais que ça fait un peu petite bite par rapport aux analogies fleuries et grandiloquentes dont on a l'habitude ici, mais quand je parle d'énorme claque, je pense bien à quelque chose de sérieux, pas juste un moment un peu humiliant.

J'espère que le cyberpatronat est pas assez matrixé pour oublier de prévoir quelques scénarios de résilience un peu low-tech.
A la fois j'en doute, à la fois je pense que les catastrophes percutées comme évitées de peu ont tendance à rendre créatif, techniquement, socialement, légalement... Ca dure ce que ça peut, mais ptett que pour des sociétés, les crises, c'est la vie, et que penser en termes de surefficience économique éternelle, c'était ça, l'utopie hors-sol.

Toi, si ce n'est pas encore fait, tu es mûr pour rencontrer le concept de Robustesse : https://larobustesse.org/?PagePrincipale

Et si, on est tous formaté pour oublier de prévoir des scénarios lowtech, par quelque chose qui s'appelle "le culte de la performance".

[Le merlock]

Ce qui est amusant, c'est que c'est littéralement le pitch de la fin de l'ère 2020 de Cyberpunk avec le Datakrash qui est certes plus spectaculaire mais repose sur le même principe, crash du NET, corruption de la donnée stockée sur les supports informatiques. Plus rien n'est 100% vrai et il y a sans doute peu de chance que la recette de la tarte au pomme de mamie comportaient 10 pilules de fentanyl dedans et peut être que le compte bancaire qui affiche un 0 pointé était il y a peu garni de quelques centaines de milliers d'euros. Mais comme il n'y a plus de moyen de vérifier autrement que par la mémoire où si on a une trace papier et que ces dernières ne sont plus utilisées depuis belle lurette...

C'est aussi comme ça dans Transmetropolitain. BD à laquelle je voue un culte sans limites...

J'espère que le cyberpatronat est pas assez matrixé pour oublier de prévoir quelques scénarios de résilience un peu low-tech.

Comme par exemple conserver les fils de cuivre pour une connectivité minimale ? 

[fafnir]

Moi, j'en reviens à ce qui est dit plus haut.

Des fois je me demande si tout ce buzz (qui est peut être fondé) sur les dangers de l'IA n'étouffe pas le débat sur l'impact avéré de l'IA sur l'environnement.

J'en suis assez convaincu.
Pas que l'environnement d'ailleurs, mais aussi la santé mentale, la souveraineté, le contrôle de l'information/opinion (par ceux qui contrôlent l'IA, pas par l'IA elle-même), l'accaparation des ressources...

Lever des drapeaux rouges, c'est un leurre qui permet de continuer à développer les IA génératives parce que « tant qu'on ne travaille pas pour l'armement, ce qu'on fait est vertueux. »

Ouais mais pour le coup, ça ne colle pas avec un appel au ralentissement.
Le chiffon rouge vite debunké ça décrédibilise les critiques, mais là ils appuient ces critiques au plus haut, en laissant seul Trump les contredire (ce qui aurait plutôt tendance à les renforcer...)

Personne ne les croira s'ils arrivent dans un mois en disant : c'est bon on a trouvé un killswitch, on est définitivement hors de danger, cowabunga !

A mon humble avis, il y a deux choses entièrement différentes : les prédictions type Hubinger, et le discours actuel de certains patrons de grosses boîtes d'IA.

Quand ces derniers plaident pour un ralentissement, ils parlent de différer certains "développements" le temps de mettre en place une régulation (normes de sécurité, bonnes pratiques, contrôle etc...) pour éviter que des cagades du type hugging face se multiplient et s'aggravent, ce qui leur semble probable au vu de l'augmentation de l'usage et de la puissance des modèles.

Au passage, ils ne sont pas tous alignés, Meta et Mistral considèrent que c'est du vent et que les incidents sont l'oeuvre de gens qui ont bossé comme des gorets.

Vu ma méconnaissance du sujet tout est possible de mon point de vue, mais le scénario d'IA qui foutent le dawa sur le web, sans nécessairement tout défoncer d'ailleurs, paraît quand même plausible, et si c'est le boxon sur internet, ils en souffriront, sans même parler de la question de leurs éventuelles responsabilités.

Et bien entendu ils aimeraient bien que leurs chers concurrents soient également soumis à ladite régulation et, cerise sur le gâteau, cette régulation serait définie par eux-mêmes (en gros).

Conclusion : je pense que la démarche est en partie sincère (*), ET totalement intéressée, mais 1) ça ne plaide pas pour un stop ou un bridage définitif et 2) elle est très éloignée du discours sur le danger existentiel "l'ia va tous nous tuer' que nous ferait courir l'IA à très court terme.

Bref je n'y vois pas un contre feu médiatique, même si ça a un effet d'éviction des graves questions environnementales, sociales etc...dans la bande passante des médias et du temps de cerveau disponible.

(*) avec probablement des arrières pensées : du PR sur le thème on se questionne sur l'impact de nos technos, la volonté de consolider leur position, relever les barrières à l'entrée sur le marché etc...
 

[Kandjar]

Yep, ça me parait plausible.
L'amalgame viendrait donc des médias généralistes (le Monde par exemple) qui eux mélangent tous ces sujets sous la bannière "IA".

[cdang]

L'effondrement de l'Internet, ça sera pas pire que la débâcle de 1940, déjà parce qu'on n'aura pas des chars qui nous tirent dessus et des stukas en piqué (sauf si un voisin remuant, typiquement à l'Est, se dit que c'est le bon moment de profiter du dawa).

Et la vie sans Internet, il y a des juges de la CPI qui sont en train d'expérimenter ça à titre individuel

[Qui Revient de Loin]

L'effondrement de l'Internet, ça sera pas pire que la débâcle de 1940, déjà parce qu'on n'aura pas des chars qui nous tirent dessus et des stukas en piqué (sauf si un voisin remuant, typiquement à l'Est, se dit que c'est le bon moment de profiter du dawa).

Et la vie sans Internet, il y a des juges de la CPI qui sont en train d'expérimenter ça à titre individuel

Oui, enfin perso, j'aimerais éviter quand même.
 

[fafnir]

L'effondrement de l'Internet, ça sera pas pire que la débâcle de 1940, déjà parce qu'on n'aura pas des chars qui nous tirent dessus et des stukas en piqué (sauf si un voisin remuant, typiquement à l'Est, se dit que c'est le bon moment de profiter du dawa).

Et la vie sans Internet, il y a des juges de la CPI qui sont en train d'expérimenter ça à titre individuel

Cesse de fanfaronner, jeune inconscient.

L'internet s'effondre et casusno c'est fini.

On tiendra pas 3 jours.

[Deimoss]

Il paraît que nous ne sommes jamais qu'à neufs repas manqués du chaos.

[Le merlock]

Et à 48 heures de panne électrique...

[Qui Revient de Loin]

La gestion des catastrophes dit que l'on doit pouvoir survivre par nous même 72 h, le temps que l’État restaure ce qui doit l'être (voie d'accès, approvisionnement, énergie, etc.).
Donc 9 repas, oui, 48h, non.

Ou alors vous avez pas lu les recommandations en matière de kit d'urgence.

(PS : mon sac d'évacuation est prêt, et j'ai 2 semaines, voire 3, de réserves)

[cdang]

On peut survivre 3 semaines sans manger (pour un adulte en bonne santé), donc une quarantaine de repas (sans compter les petits déj).

D'ailleurs, si vous voulez éduquer vos enfants sans tomber dans le survivalisme (c'est aussi sympa à lire pour un adulte) :
https://www.gallimard.fr/catalogue/masca/9782075132190

[Deimoss]

Ah! Ah! Ah! 40 jours! je peux te dire que mes nièces n'attendront pas le dixième et que si on leur fournit pas un voisin bien dodu c'est nous qui finiront à la casserole. Enfin, pas moi, ou en dernier... Parce que je prends tellement de médocs que je suis limite classé SEVESO

[zit]

Notez qu'il n'y a pas qu'internet pour transférer des données.
Le téléphone par exemple (3615 cassus), mais pas que.

[Qui Revient de Loin]

Et les fanzines !

[cdang]

« Sommes-nous en train de perdre le contrôle de l'IA ? Avec Jean-Louis Constanza et David Djaïz », France Inter, L'Invité de 8h20 : le grand entretien, 17 septembre 2026
https://www.radiofrance.fr/franceinter/ ... 26-8123501

Il y a beaucoup de marketing de la peur dans tout ça. Si on essaie de décrypter ces déclarations alarmistes qui sont faites par les grands patrons de l'IA, il y a trois choses je pense :

• premièrement, pour entraîner des modèles, il faut des dizaines de milliards, voire des centaines de milliards de dollars ou d'euros d'investissement et aujourd'hui, le retour sur investissement il est pas évident. Donc il peut y avoir un intérêt pour ces grands patrons de ralentir un petit peu la course effrénée, la course aux armements dans laquelle ils sont engagés.
  
• La deuxième chose, c'est qu'il y a une volonté probable de, ce qu'on appelle en économie, de capture du régulateur. C'est-à-dire qu'on est arrivé à la frontière, on sait mieux que les autres où sont les dangers, les périls et les risques et soyons les seuls. Et surtout ne permettons pas à d'autres d'accéder à la frontière.
  
• Troisièmement, il y a probablement une raison plus philosophique et plus religieuse, qui s'appelle l'altruisme effectif, qui est un courant de pensée très influent dans les laboratoires d'IA, notamment chez Anthropic. En gros, ce sont des gens qui sont persuadés de faire le bien de l'humanité, à grande échelle, et qui se disent : « Si nous ne sommes pas dans le cockpit de l'avion, et bien l'avion va se crasher. » Et donc le paradoxe, c'est que ces gens qui sont très conscients des dangers de l'intelligence artificielle contribuent parfois à l'accélération vertigineuse que nous vivons en ce moment.