Positionnement du forum au sujet des IA génératives

[vv221]

La question des IA génératives divise sur notre forum, et ce depuis maintenant plusieurs années. Nous avons des règles en place à ce sujet, qui avaient été discutées au sein de l’équipe du forum, mais cette fois-ci c’est avec tout le forum qu’on essaie de construire notre nouvelle manière de fonctionner.

L’avis d’une demi-douzaine de réguliers du forum est bien connu, ce sondage est là pour permettre à ceux qui ne souhaitent pas forcément rédiger un message à ce sujet de quand même donner leur avis (évidemment même ceux dont l’avis est connu sont invités à voter). Il est possible de changer son vote à tout moment, vous n’avez pas à choisir une position figée puis à vous y tenir indéfiniment.

C’est aussi une invitation à regrouper les éventuelles discussion à un seul endroit, plutôt que de les mêler au reste de la discussion plus large autour de la rédaction d’une charte de modération. Pour ma part je ne m’autoriserai pas plus d’un message par semaine dans ce fil (celui-ci inclus) pour éviter les escalades et les échanges stériles, merci donc de ne pas m’y interpeler directement.

[Barbach]

Je vote le premier.

Une option me manque donc je choisis d'autoriser les IA sur notre forum MAIS sous conditions.
Plus complexe qu'un choix binaire, je pense qu'il faut autoriser à évoquer du contenu généré par IA quand bien même je les déteste au plus haut point pour d'évidentes raisons économiques, sociales et écologiques.
"Pourquoi ?" me direz-vous ? Par ce que la liberté d'expression doit être respectée et que le fait d'évoquer le contenu IAgen n'es pas (encore) interdit par la loi.
Interdire purement et simplement signifie museler les adhérents, ce qui me pose quelques problèmes de principe.

Je détaille ma position : je suis d'accord d'évoquer le contenu IAgen mais celui doit être "taggué", on doit indiquer si le contenu est généré par IA, à chacun de prendre ses responsabilités s'il s'agit d'installer un mod etc.
je ne suis pas d'accord pour utiliser du contenu IAgen pour le CMS du forum. (code, éléments graphiques, modules php etc.)

Pour ce qui est du scan, ma position est plus simple : cela doit être empêché au maximum. Je serais même plus sévère sur l'accès à certaines fonctionnalités du forum. (notamment la chatbox)
Toutes les contre-mesures qui peuvent être raisonnablement mises en place doivent l'être.

[vv221]

Je me permets une rapide entorse à ma semaine de délai pour éviter qu’une incompréhension ne perturbe le vote :

je pense qu'il faut autoriser à évoquer du contenu généré par IA (…)

Les options proposées ne concernent pas ça, mais uniquement le partage direct de contenu généré par IA sur le forum. Donc des images, du texte, un mod issus un logiciel d’IA (ChatGPT, MidJourney, Claude Code, etc.).

Rien ici ne concerne les sujets de discussions autorisées ou non, de la même manière qu’interdire les contenus racistes n’empêche pas de parler de racisme (on l’a d’ailleurs fait il y a quelques jours à peine dans le fil au sujet des westerns).

[Barbach]

Je me permets une rapide entorse à ma semaine de délai pour éviter qu’une incompréhension ne perturbe le vote :

je pense qu'il faut autoriser à évoquer du contenu généré par IA (…)

Les options proposées ne concernent pas ça, mais uniquement le partage direct de contenu généré par IA sur le forum. Donc des images, du texte, un mod issus un logiciel d’IA (ChatGPT, MidJourney, Claude Code, etc.).

Rien ici ne concerne les sujets de discussions autorisées ou non, de la même manière qu’interdire les contenus racistes n’empêche pas de parler de racisme (on l’a d’ailleurs fait il y a quelques jours à peine dans le fil au sujet des westerns).

Merci pour cette précision @vv221, je maintiens mon avis, j'accepte le partage sous les conditions évoquées plus haut (mention du caractère IAgen voire tag dans le nom du sujet si le sujet concerne spécifiquement du contenu généré par IA).
Idéalement je dirais qu'un module permettant de blacklister certains tags dans les noms de sujet serait l'idéal dans le cas que j'ai évoqué mais je ne suis pas sur que cela existe.

[Mornagest]

Le souci des outils IA (au sens large), c'est qu'ils nous placent dans une situation à la « paradoxe de Schrödinger ». Ils peuvent apporter des progrès indéniables dans certains domaines, tout en en pourrissant bien d'autres. Ça me paraît compliqué d'être complètement pour ou contre, vu sous cet angle.

À l'échelle de notre forum, on le voit : certains mods ou patchs sont maintenant générés (ou aidés) par l'IA, mais cette même IA pompe le contenu des messages du forum et empêchent le forum de fonctionner comme il faut, sans parler du devenir des messages ainsi copiés et pour lesquels personne ne pourra réclamer un quelconque droit d'auteur ou à la propriété.

Et pourtant... qu'on le veuille ou non, on est cernés par les IA, désormais. Ça paraît compliqué, voire intenable de se fermer complètement aux contenus générés par IA, car on ne peut qu'imaginer qu'ils vont encore augmenter sensiblement dans les mois / années à venir, notamment pour le modding et la traduction de ces mods.

Je pense qu'il peut être équilibré d'autoriser de tels contenus, tout en pointant dans un sujet épinglé les risques et inconvénients que font courir le recours aux IA dans différents domaines. L'idée n'est donc pas de juger les personnes qui se servent des IA ou des contenus générés par elles, mais d'informer et d'expliquer pourquoi ces contenus peuvent être pris avec de la réserve ou carrément rejetés par certains membres. Tout en n'oubliant pas que ce n'est pas parce qu'on est pour ou contre les IA qu'on est pour ou contre les gens qui s'en servent. Mais ça permettra aussi de ne pas déclencher de débats à chaque occurrence, surtout si c'est pour redire les mêmes arguments pour/contre.

Je précise enfin que je parle assez en connaissance de cause, étant donné que ma femme est directement victime des effets des IA : elle ne peut plus trouver de contrats liés à son travail, vu que les IA font ce travail « à sa place », désormais. Pour ma part, et en cohérence avec ce constat et bien d'autres, je n'utilise jamais d'IA volontairement (ou alors à mon insu, ce qui est malheureusement très probable).

[Féérune]

Bonjour

Je ne vais pas voter, en tous cas pas maintenant. Pour une raison simple : ce sondage, à mon avis, court-circuite un peu les questions qui se dégagent de la refonte du règlement du forum en cours de discussion actuellement.
Dans la mesure où il a été dit qu'il était trop tôt pour une synthèse compte tenu du fait que les membres du forum sont pour la plupart en vacances, je ne vois pas l'urgence de se prononcer maintenant.

[Barbach]

Le souci des outils IA (au sens large), c'est qu'ils nous placent dans une situation à la « paradoxe de Schrödinger ». Ils peuvent apporter des progrès indéniables dans certains domaines, tout en en pourrissant bien d'autres. Ça me paraît compliqué d'être complètement pour ou contre, vu sous cet angle.

Tout à fait d'accord, une réponse binaire ne me semble pas pertinente compte tenu de la complexité du sujet.

L'idée n'est donc pas de juger les personnes qui se servent des IA ou des contenus générés par elles, mais d'informer et d'expliquer pourquoi ces contenus peuvent être pris avec de la réserve ou carrément rejetés par certains membres. Tout en n'oubliant pas que ce n'est pas parce qu'on est pour ou contre les IA qu'on est pour ou contre les gens qui s'en servent. Mais ça permettra aussi de ne pas déclencher de débats à chaque occurrence, surtout si c'est pour redire les mêmes arguments pour/contre.

Oui, ce que je m'évertue à faire presque quotidiennement au risque de voir proches et collègues parfois rouler des yeux tellement fort qu'ils pourraient se blesser ou prendre l'air coupable et regarder leurs pompes. Pour moi c'est indispensable de rappeler régulièrement l'impact global du développement frénétique de ces technologies car...

Je précise enfin que je parle assez en connaissance de cause, étant donné que ma femme est directement victime des effets des IA : elle ne peut plus trouver de contrats liés à son travail, vu que les IA font ce travail « à sa place », désormais. Pour ma part, et en cohérence avec ce constat et bien d'autres, je n'utilise jamais d'IA volontairement (ou alors à mon insu, ce qui est malheureusement très probable).

...nous sommes tous concernés, indépendamment de l'activité professionnelle. Quand la température globale de la planète augmente, que les ressources en eau et en électricité sont pillées en partie par ces technologies (mais pas que bien entendu) alors cela nous concerne tous.

[deratiseur]

je ne suis déjà pas très malin et pas très causant au naturel, mais là ça me laisse vraiment sans voix, j'en perd les mots. Sur la CDC c'est officiel, il faut un topic pour dire que parler de Gemini c'est plus délictuel que .... et merde, j'y arrive pas. Bon, vous savez quoi, je me casse.

[Mornagest]

Je me permets de rédiger ce message pour tenter d'expliciter la situation actuelle. Vous excuserez les approximations que je peux faire dans ce message, n'étant pas du tout spécialiste.

Comme vous l'avez compris, le sujet des IA est sensible et compliqué. Outil merveilleux pour une partie de la population, synonyme de chômage pour une autre... sans parler des impacts environnementaux que cela peut avoir.

Dans le cas qui nous concerne directement, à savoir le forum et le serveur qui l'héberge, les bots IA dits « crawlers » tentent de venir lire les contenus (donc les messages postés) afin d'entraîner les robots conversationnels et autres générateurs de texte. Ceci a pour conséquence d'augmenter en masse les requêtes sur le serveur pour accéder aux pages du forum (cfr. le record de connectés à 9500 visiteurs en 5 minutes). Notre serveur étant de configuration plutôt modeste (eu égard au coût que cela représente d'avoir un serveur plus robuste), il n'encaisse pas forcément toujours ces montées de connexions simultanées et se met à ralentir lorsque trop de requêtes sont effectuées. Voire à planter complètement en cas de surcharge réelle.

Pour parer ces attaques incessantes (j'insiste sur ce point : incessantes ), vv221 a mis en place plusieurs couches de protection pour empêcher les bots d'effectuer leurs requêtes, tout en les renvoyant vers un piège à bots (des pages avec du texte aléatoire sans aucun sens) pour les détourner de leur cible principale, à savoir les véritables pages du forum.

Sauf que forcément, les modèles d'IA sont sans cesse mis à jour et les protections sur le serveur doivent l'être tout autant, ce qui nécessite du temps et du travail.

Pour vous donner une idée, cela fait plusieurs heures aujourd'hui que je tente de comprendre comment poursuivre le travail effectué par vv221, et je suis encore arrivé à rien pour l'instant. Certes, je ne suis pas technicien ni sysadmin, ce qui explique cela

J'espère que vous comprendrez plus facilement les réactions de vv221 par rapport à l'utilisation de l'IA. Car ce sont les mêmes IA utilisées par les robots conversationnels ou les générateurs d'images qui viennent piller le contenu du forum en toute impunité et avec les conséquences que cela a sur son fonctionnement. Même si le lien ne paraît pas forcément évident de prime abord.

Le souci, de l'autre côté, est que les moddeurs peuvent sincèrement vouloir utiliser l'IA pour des raisons d'efficacité, de facilité, ou autre, sans penser à mal le moins du monde.

Dès lors, la discussion mérite d'exister : quel comportement devons-nous adopter collectivement concernant les créations menées ou assistées par l'IA ?

[deratiseur]

N'en déplaise à certains, je vais parler des IA. j'ai testé, et je les trouves débile.
Celle dont je me sert le plus, Chat GPT, si je lui demande de lire mon fichiers texte des sorts de l'interplan et de me donner son avis, je lui colle des morceaux de 10 sorts par 10 sorts, tout va bien jusu'aà ce que je contre-argumente (que je discute, quoi)... ça marche, chatgpt argumente, MAIS elle oubli ce que j'ai demandé au début et après ne donne plus son avis sur aucun sort que je colle.
Aussi si je lui demande de lire X fichiers pour savoir comment ils marchent, ce qui les relis (toujours à essayer de comprendre le code mille-feuille de SCS), elle me demande de chercher des occurrences de texte dans le fichier X alors qu'elle les a elle même lu et donc peut chercher elle même.
Donc oui, les IA Sont débiles. Et oui, ce sont des vampires de site qui ruinent les accés.

Mais :
- Chat GPT m'a permis de changer mon Github pour qu'il imontre deux langues (3/4) en même temps. Ce que j'aurais bien été incapable de faire moi même. (mais il y avait un bug d’alignement des colonnes, et c'est MOI qui en ai trouvé la cause, chatpt pas fait essayer plein de trucs sans corriger quoi que ce soit)
- Chat GT à corrigé toutes les fautes d'orthographe/conjugaison dans certains fichiers de l'interplan. Et je n’ai pas fini.
- Après un mois de travail sur les défis et avoir changés un paquet de trucs, les fichiers anglais n’étaient plus à jour. Et trop de trucs changés pour savoir où. Chat gpt à trouver toutes les différences dans les fichiers.
- J'ai fait manger à 5 IA différentes le fichiers décrivant les 153 sorts de l'interplan V10 pour avoir 5 avis différents. Ça a été long et laborieux, mais à la fin j'avais plus d'avis sur chaque sort que je n'en ai jamais eu sur la CDC depuis des années que le mod existe.

Alors Oui, les IAS sont une plaie pour la planète. Comme les voitures, les avions, la pollution des océans, les touristes et tant d'autres choses. Sauf que c'est choses là on peut librement en parler. les ias, on peut pas. On peut dire qu'on s'est fait agresser, qu'on s'est fait arnaquer, qu'on à été renversé par une voiture, que notre voisin est un empaffé, on peut faire l'apologie de tous les connard de la terre, mais qu'on a utilisé une ia pour créer un mod, on peut pas.

J'ai le droit de me servir des nouveau outils que la société moderne me fourni. Il n'ont rien d'illégaux, ils ne se vendent pas sous le manteau, je devrais donc avoir en toute logique le droit d'en parler, et de dire sans appréhension que je m'en sers. Mais pas sur la CDC. Est ce n'est pas de la censure naturelle. On SAIT que ça craint de parler de politique, mais je ne vois pas ce qui dans l'ia devrait me dire "ça craint d'en parler". Alors la CDC et son nouveau régalement subjectif, très peu pour moi. Finissez votre p... de réglement et je reviendrais dans quelques années voir comment les choses ont évolué (ou pas. en fait certainement pas)