Les illustrations par IA peuvent elles être acceptable ?

[Harfang2]

En fait, cette histoire de ne plus acheter de jdr publié à partir de 2022 me tente de plus en plus. Et puis c'est pas comme si je n'avais pas déjà de quoi faire jouer pour trois ou quatre générations.

La bonne nouvelle c'est, qu'avec l'IA tu peux créer tes jeux maisons ou tes settings encore plus facilement, plus besoin d'en acheter. 

[Nolendur]

Préambule, pour donner le fond de ma pensée avant de digresser sur des points plus anecdotiques.

Sur un plan scientifique et philosophique, je suis absolument pour l'utilisation de l'IA. C'est un concept fascinant, un outil puissant, une direction de recherches très prometteuse, une possible solution à des problèmes difficiles, et une base de réflexion profonde sur la nature de l'information, de la réalité, de la conscience, etc.

Sur le plan éthique, économique, écologique, social, politique, et d'une manière générale sur la plupart des problèmes concrets, je suis farouchement contre l'utilisation de l'IA. Sa mise en œuvre actuelle est une bombe qui va détruire / est en train de détruire beaucoup de choses auxquelles on tient, et qui va renforcer les déséquilibres, les injustices, les maux et les absurdités de notre temps.

Dans un monde idéal, il aurait fallut que l'IA reste dans les labos pendant un bon moment, le temps de peser le pour et le contre, faire des découvertes, comprendre les enjeux, évaluer la balance bénéfice risque, décider quoi réguler, etc. A la fin, elle aurait été réservée aux usages avec la meilleure balance bénéfice risque, et/ou on aurait amorti les impacts négatifs les plus sévères, et le sort de l'humanité en aurait été amélioré. Mais ce n'est pas - et ne sera jamais - le monde dans lequel on vit.

Dans notre monde actuel, continuant à vivre dans un paradigme autrefois utile mais qui a (opinion personnelle que vous n'avez pas à partager) depuis longtemps dépassé son pic de bénéfice-risque positif et de pertinence (je ne parle pas forcément du capitalisme en tant que tel, mais de la bouillie financio-marchande qui en a découlé et qui donne ce monde en toc dans lequel on vit aujourd'hui), dans ce monde actuel donc, il n'y a absolument aucune chance pour que l'utilisation de l'IA ne tourne pas à la catastrophe. Toutes les utilisations les plus débiles et les plus nocives seront expérimentées à grande échelle, et vue la puissance de l'outil, ça ne présage rien de bon.

Mais le cœur du mal n'est pas dans l'outil lui-même, il est dans notre société (voire notre espèce) malade qui ne sait pas faire autrement que de transformer en poison tout ce qu'elle touche. Dès qu'on met la main sur un truc puissant, ça devient un truc puissamment nocif.

De ce fait, ma position personnelle est que je tente de me servir de l'IA le moins possible, notamment dans ses usages les plus problématiques (images, vidéo, pillage des PI, remplacement des humains), mais que je ne me mets pas la rate au court bouillon pour les usages qui restent (ce qu'on m'oblige à faire au boulot, un minimum de curiosité personnelle, la "veille scientifique et technique" pour me tenir au courant, et occasionnellement une requête pour me simplifier massivement la vie). Le monde dans lequel je vis m'a rendu misanthrope et fataliste, et si au quotidien mon éthique personnelle me pousse à faire ce que pense être bon et juste, selon le principe qu'il est pathologique de vouloir agir à l'inverse de ce qui va dans le sens du monde qu'on souhaiterait, pour autant je ne me sens pas responsable du destin de l'humanité, je pense qu'elle n'en a pas.

Bref, je suis contre 99% des usages actuels de l'IA, mais je n'en fait ni un combat, ni un vœu de vertu. D'une façon un peu lâche (voire très lâche), j'ai l'impression que ce n'est pas ma guerre. Je me battrai pour survivre quand je me prendrai les conséquences dans la gueule, mais je ne vais pas monter au front pour sauver ce qui ne peut pas l'être.

Voilà, voilà, le préambule a bien sûr été 10 fois plus long que ce dont j'avais l'intention mais tant pis. Passons au point trivial que je voulais aborder en suite.

Islayre a parlé très justement de la merdification de l'écosystème informationnel actuel. Et je suis d'accord, dans 10 ans l'IA a de fortes chances d'être devenu un merdier immonde qui nous pourrira la vie à tous, individuellement et collectivement, et dont on ne tirera même plus d'avantages personnels, mais dont on ne pourra plus se défaire, qui nous sera imposé par la structure économique et sociale dans laquelle on vivra.

Mais dans l'immédiat, elle m'est paradoxalement utile pour combattre la merdification de la vague technologique précédente. Il y a 10 ans, je me targuais d'avoir un google-fu particulièrement efficace. Je savais comment requêter et comment naviguer pour obtenir rapidement et fiablement les informations et ressources que je cherchais. Aujourd'hui je n'y arrive plus. Internet est devenu une telle merde que tu peux te perdre des heures dans des publicités, des escroqueries, de discussions de RS stériles, des pages obsolètes, des paywalls, des informations difficiles à sourcer, des sites intermédiaires tentant de se faire de l'argent à partir de rien, etc. Sans jamais arriver à trouve la ressource ou l'information que tu cherchais.

Dans ce cadre là, c'est ChatGPT qui me sauve. Ça nécessite d'avoir un peu d'expérience pour éviter les biais et les pièges de l'IA, mais en 10min de conversation, je peux obtenir une information relativement fiable et utile, en générale sourcée, synthétisée, expliquée, contextualisée, etc. Donc je n'obtiendrait pas d'équivalent en 3 heures de recherches frustrantes sur l'Internet-de-Merde(TM).

Alors, la plupart du temps je ne le fais pas, pour les raisons d'éthique personnelle dont je parlais plus haut, essentiellement dans ce cas précis pour ne pas encourager le développement de l'IA (parce qu'au niveau des coûts écologique/énergétiques, et contrairement à ce que beaucoup pensent, ma conversation de 10min n'est pas plus gourmande que mes 3h de galère sur le net). Mais de temps en temps, si je ne juge pas le besoin trop trivial, je me laisse tenter. Parce que ça me simplifie vachement la vie.

Jusqu'à quand...

[wade le rond]

Je ne lèse personne, je ne boycotte rien, je suis juste mes goûts et idées.

Oui c'est ça, je pense qu'en tant que consommateurs, nous pouvons choisir les produits qui nous conviennent.
En fait c'est juste une expression de notre liberté;
Il me semble parfois (et c'est malheureux) que nous avons plus de pouvoir pas nos actes d'achat que par nos votes.
En achetant ce qui nous semble éthique par exemple, nous  choisissons de favoriser une entreprise dont l'action (par exemple environementale) nous semble bonne.
Il me semble que politiquement le boycott a été utilisé par Gandhi dans le cadre de son combat pour l'indépendance de l'Inde
 

[Orlov]

C'est là où justement je trouve que le terme boycott n'est pas approprié pour décrire ma position.
Le boycott est un acte militant qui vise un but politique.
Mon non-intérêt pour des produits utilisant l'IA générative en JDR n'est pas un acte politique, c'est une affaire de goût personnel. Je veux simplement me tenir à distance de produits qui ne me conviennent pas.

[Morningkill]

Pour ma part, à peu près vu que j'applique une "grille de lecture" qui vaudrait pour cette question aussi. Evidemment, les considérations spécifiques aux photos ne seraient pas applicables, d'où le "à peu près" (mais vu la balance que j'avais faite, le résultat global serait le même).

Bah tu vois, pour moi , (qui ne suis pas contre a la base), y a pourtant une difference fondamentale entre "utiliser l'ia pour faire des illustrations [ce que je sais pas faire moi même]" et "utiliser l'IA pour rediger des textes a ma place[ce que je sais faire]". Le second me parait plus acceptable que le premier.

Après, c'est sans doute aussi parce que fondamentalement, rédiger du texte, c'est ce que je fais toute la journée depuis des décennies (oui, le code c'set du texte ), que ca fait partie de mon identité, et que pourtant, depuis 8 mois, je n'en écris quasiment plus [1].
Et je me plains pas, et j'aurai du mal a le faire alors qu'un bonne partie de mon travail ca a été d'enlever du travail a d'autres gens pour le faire faire par un programme (de tête, je pense pas avoir contribué a des licenciements - ou je l'ai pas su)

[1] je pense que j'écris plus de texte ici que dans l'ensemble de mes projets

[Nolendur]

C'est là où justement je trouve que le terme boycott n'est pas approprié pour décrire ma position.

Je pense que votre discussion autour du boycott est surtout liée à la différence entre "boycott" et "appel au boycott". Le boycott est un acte relevant d'un choix personnel, une décision qui n'est même pas forcément explicitement connu par notre entourage (même si elle l'est souvent), et à par dans une sorte de dictature extrême, j'aurais du mal à comprendre qu'on puisse me le reprocher. Ça peut ne pas faire plaisir à la personne visée, mais je fais ce que je veux. L'appel au boycott est nettement plus militant, et il faut faire gaffe, ça peut effectivement être pris pour une attaque et amener des conséquences.

[wade le rond]

Je pense que votre discussion autour du boycott est surtout liée à la différence entre "boycott" et "appel au boycott"

Oui, bien vu.

Avec mon épouse, il y a des tas de produits qu'on achètera pas, que ce soit pour la qualité du produit, son prix ou pour des motifs sociaux ou environnementaux ou simplement humains liés à sa production.

Pour autant, je n'ai jamais appelé à se joindre à nous d'autres personnes

C'est juste un retrait personnel qui n'engage que nous.

On essaie d'être des colibris (pour ceux qui connaissent la fable) c'est à dire humblement "faire notre part"

Ce que j'aprécie peu en fait c'est la censure quand on tente de bloquer d'autres personnes dans leur acte d'achat même pour les meilleures raisons/incitations  morales.

Et je n'aime pas non plus la "culpabilisation" des consommateurs qui achètent "mal" : c'est à chacun de se conscientiser

 

[DéquiVrille]

Si bien trop de "pros" n'étaient pas des zamateurs qui s'ignorent, la question ne se poserait pas. Plutôt qu'un mickey fait par un humain qui n'a aucun sens des proportions ni de la perspective, et encore moins des couleurs. Je vais préférer l'ia. Si on me présente un travail d'un artiste de génie, je vais le préférer à l'ia.

[Inigin]

J aimerai bien quand même avoir une réponse à une question de chestel. Si une proposition de jeu a un thème qui vous botte avec une version illustrée par IA, l autre non illustrée, vous boycottez le projet complet 

Ben c'est-à-dire que si c'est un projet IA duquel une IA a extrait toute la partie non-IA en automatique pour me la restituer, du coup, c'est un peu du process IA quand même. 

L'appel au boycott est nettement plus militant, et il faut faire gaffe, ça peut effectivement être pris pour une attaque et amener des conséquences.

Dans aucun cas de figure un appel au boycott ne me paraît devoir sortir de la liberté d'expression. Et comme acte militant, c'est très bien, l'appel au boycott.
D'ailleurs si ça gêne les entreprises c'est parce que ça pèse non ?

[Nolendur]

L'appel au boycott est nettement plus militant, et il faut faire gaffe, ça peut effectivement être pris pour une attaque et amener des conséquences.

Dans aucun cas de figure un appel au boycott ne me paraît devoir sortir de la liberté d'expression. Et comme acte militant, c'est très bien, l'appel au boycott.
D'ailleurs si ça gêne les entreprises c'est parce que ça pèse non ?

Oh non, je n'ai jamais voulu dire que l'appel au boycott était problématique en soi ni qu'il outrepassait systématiquement la liberté d'expression (bien qu'il puisse le faire dans certains cas s'il est utilisé de façon malveillante). Je voulais dire qu'il n'y a aucune façon de considérer le boycott simple comme autre chose qu'un choix personnel non critiquable. Si t'en es la cible, tu peux t'en désoler, mais tu ne peux pas reprocher à quelqu'un de ne pas acheter tes produits, ça ne peut pas être interprété de bonne foi comme un acte répréhensible (à part dans une dystopie marchande qui fait un peu froid dans le dos - mais on ne sais jamais de quoi l'avenir peut être fait ). Alors que l'appel au boycott (indépendamment du fait qu'il soit justifié ou pas - il peut être tout à fait justifié pour plein de raisons), est à peu près toujours considéré comme une "attaque" de la part de la cible, une forme d'activisme. Et si pour une raison ou une autre l'appel au boycott en vient à être considéré comme injustifié (à cause du consensus social, de la loi, d'un rapport de forces défavorable, etc.), l'appelant au boycott peut avoir des ennuis.

Bref, pour en revenir au sujet, reprocher à qqun de boycotter me semble vain et absurde, alors que reprocher à qqun d'appeler au boycott peut s'entendre (selon les opinions et valeurs de chacun).

[Cédric Ferrand]

Effectivement, on tourne en rond.

Cependant, je vois qu'en plus de vouloir rendre acceptable l'IA générative pour les images, tu parles maintenant d'utiliser l'IA pour définir tes patients afin de jouer avec les biais de perception des joueurs. Ça fait un bail que je ne t'ai pas parlé @Chestel (au moins 25 ans), mais de ce que je comprends tu es toujours un mâle hétéro cisgenre blanc désormais dans la soixantaine : utiliser l'IA en prétendant que c'est pour être certain d'avoir des biais cognitifs, c'est vraiment abusé dans ta position (qui est presque la mienne, c'est pour ça que je permets d'en rire). Sérieux, utiliser l'IA pour être certains d'avoir des clichés, c'est absurde.

Je vois dans un autre fil que tu trouves intéressant de pouvoir générer de la musique par IA, j'en viens donc à la conclusion que tu as franchi le Rubicon numérique et que les arguments avancés sur ce fil n'ont aucune chance de te faire changer d'avis.

J'ai lu il y a peu le post d'un utilisateur qui arborait un avatar fait en IA et qui proposait une table aléatoire. Je ne sais pas s'il avait généré ça avec un prompt, mais pour moi ce sont des red flags qui font que je ne lis pas ces messages. Je ne fais pas du JdR pour avoir du contenu convenu parce que généré statistiquement pour être dans la moyenne de ce qui est attendu. Nous ne sommes sans doute pas des artistes, mais au moins des artisans. Aussi je m'attends à ce que ton JdR soit moulé à la louche, pas généré par un LLM. Mais bon, tout ça c'est AMHA, hein.

[Inigin]

J'ai lu il y a peu le post d'un utilisateur qui arborait un avatar fait en IA et qui proposait une table aléatoire. Je ne sais pas s'il avait généré ça avec un prompt, mais pour moi ce sont des red flags qui font que je ne lis pas ces messages. Je ne fais pas du JdR pour avoir du contenu convenu parce que généré statistiquement pour être dans la moyenne de ce qui est attendu. Nous ne sommes sans doute pas des artistes, mais au moins des artisans.

J'ai, aux débuts de ChatGPT, utilisé ses capacités pour lister des pistes d'intrigues (pour L5A). Ca génère de longues listes, mais pour les exploiter pratiquement il me faudrait autant de travail qu'à partir de la liste d'intrigues de la base de L5A, ou des 36 intrigues, ou d'une table aléatoire ou... enfin j'ai déjà une feuille xmind entière de bases d'intrigues. Autant repartir des faiblesses des PJ -> je n'en ai jamais rien fait (et puis depuis l'IA est devenu un ogre matériel).
Donc, pour du jdr, on a déjà les ressources.
 

[Morningkill]

Je ne fais pas du JdR pour avoir du contenu convenu parce que généré statistiquement pour être dans la moyenne de ce qui est attendu. Nous ne sommes sans doute pas des artistes, mais au moins des artisans.

Même si après c'est -longuement- retravaillé ? Je le vois dans ma pratique pro, les documents que je genere sur IA je suis énormement dans la co-construction : l'IA collecte toutes les infos necessaires, en fait un premier jet, et aprés, je critique, je challenge, je me fais expliquer les choses, je vérifie par moi même. En vrai, la partie "l'IA genere des choses", sur un document bien abouti, c'est peut etre 25% du travail / temps passé.
Ok, ca demande a soi de faire un effort plutot que de sortir le resultat du prompt, mais c'est aussi le prix de la crédibilité.
En fait, je suis pas loin d'être dans un pareto l'IA fait seule 80% du travail en 20% du temps, sachant que la vraie qualité se trouve dans les 20% qui reste.

C'est peut etre pareil pour sa generation de dossier patient.

J'ai juste tenté une fois de generer un scénario par IA (plus exactement, d'etoffer un scenario existant), la proportion (entre j'utilise directe ce qui sort de l'IA et je le retravaille ) était plutot dans le 50% je pense - après je ne suis pas allé au bout du truc (l'utilisation dans le réél), donc ce chiffre aurait peut-être baissé. @Vorghyrn tu l'as fais plus que moi, je serais curieux d'avoir ta version

[Chestel]

Oulah. Je ne cherche à convertir personne ni à rendre acceptable quoi que ce soit, surtout l'inacceptable. Le choix du titre du post est effectivement mauvais.
Je suis chimiste, plutôt spécialisé dans le "vert". Les problèmes de sécurité, de manipulation et de dérives ont été mon quotidien pendant presque 40 ans. 80% des gens n'ont pas de mauvaises intentions mais choisissent à mes yeux une mauvaise voix pour leur sécurité, celle de leurs enfants ou par leur attitude face à leur éthique, par acrasie ou par méconnaissance, et surtout car le monde est complexe. 
Donc quand j'ai des questions, je me renseigne pour essayer de faire au mieux. Je suis prêt à changer et je l'ai fait. Je n'ai pas été hétéro toute ma vie

J'assume mes positions. Je ne suis pas anti IA. On vient de découvrir le feu. Est-ce que ça va servir à incendier le village voisin ou à préparer un bon repas ? Je pense un peu des deux. Une IA qui conduit les voitures à la place d'humains irresponsables, bourrés, fatigués ou âgés me plait. Une IA qui désigne des cibles à abattre à des militaires m'horripile. Une IA qui pilote un drone pour tuer des envahisseurs, j'évite de réfléchir trop longtemps car ça m'angoisse. C'est inacceptable et pourtant...

J'utilise l'IA et je vais continuer à l'utiliser car c'est un outil pratique.  Préparer le dossier du sujet avec une IA a été une révélation : l'IA est plus performante que moi à ce jeu des clichés. Je ne me vois pas revenir en arrière. Tellement que je n'envisageai même pas de faire différemment avant d'en discuter.
Je connais plusieurs programmeurs qui font coder des machines à leur place, ce qui tue leur métier mais enlève 80% du travail fastidieux. Ils payent même l'IA pour ça. Mais ils restent aux commandes pour superviser et amener leur travail vers de nouveaux sommets.
Est ce que l'IA est bien ou mal ? Je ne sais pas. Faut il l'interdire ? J'espère que l'économie se chargera de la réguler. Est ce que des gens vont boycotter la méthode parce que j'utilise l'IA ? Oui, et je respecte leur choix. (j'espère que mon éditeur ne lis pas ceci car lui c'est son gagne pain et il va angoisser s'il y a un appel au boycott). Je sais aussi que des gens vont boycotter le jeu parce que j'utilise le terme joueureuse dedans, et c'est leur choix. J'ai toujours écouté les gens qui ont tenté de me faire changer d'avis, mais ils n'ont pas encore réussi à faire évoluer ma position. Car j'ai toujours en tête la joueuse qui est venu me voir en disant : ce que j'ai aimé dans la partie, c'est de pouvoir finir mes phrases. J'ai écouté son argument et il a changé ma manière d'entendre, de parler et m'a rendu visible la soumission de 50% de la population. Donc j'écoute les arguments. Je fais un choix, je l'assume et j'explique pourquoi. Mais je reste ouvert.

Donc sachant que je vais utiliser l'IA, comment faire  au mieux ? Voici ce que j'ai retiré des discussions jusqu'à présent.
- avoir un objectif artistique clair : accumuler des clichés, biais, stéréotypes dans une illustration
- viser la qualité plutôt que la quantité
- utiliser photoréaliste dans les prompts pour ne pas copier le style d'un illustrateur pillé
- chercher un illustrateur pour la partie onirique du jeu et pas la partie réaliste
- utiliser l'IA pour préciser mes désirs et limiter le travail des illustrateurs

[sk8bcn]

J ai une dernière question pour toi.

Est ce que si la méthode du docteur chestel fait un four, tu regretteras ton choix ?