Les IA génératives sont un fléau !

Un problème sur votre ordinateur, votre système d'exploitation ou sur Internet ? Des conseils à demander ou à proposer concernant les derniers logiciels disponibles ? Des astuces ou des guides à proposer sur comment nettoyer / optimiser son ordinateur ? Ce forum est le lieu idéal pour parler de nos machines et des programmes autres que les jeux. Débats, sondages, astuces... sans oublier l'annuaire regroupant des liens de sites par thèmes.
Avatar du membre
Finrod Felagund
Blême
Messages : 963
Enregistré le : dim. 09 mars 2008, 19:08
Statut : Hors ligne

Message par Finrod Felagund »

Je dirais que ça dépend de ce dont tu veux causer. L'autre sujet est plutôt sur les aspects techniques de la façon dont fonctionne l'IA, et celui-ci plutôt sur les implications que ça autour. Enfin, il me semble que c'est une découpe qui ne marche pas trop mal :)
J'ai fait un peu des deux, mais je pense que j'étais en moyenne plus sur les implications :gign:.
Sinon, concernant les effets sur l'emploi : en l'état (et ça ne risque pas de changer de sitôt vue la façon dont ces trucs fonctionnent), il est toujours nécessaire de repasser tellement derrière que virer des gens pour ça est un très mauvais investissement :gign:
Oui, l'étude du MIT parue sur les retours sur investissement n'est pas très prometteuse. Tiens, ça aussi ça va dans les implications: si bulle IA il y a (ce qui est quand même possible dans une certaine mesure), on aura potentiellement une crise économique derrière.

En tout cas, en ce qui nous concerne, en droit, ce n'est visiblement pas ça pour le moment. On va voir ce que donneront mes tests...
Avatar du membre
vv221
Golem d'adamantine
Messages : 5164
Enregistré le : dim. 17 août 2008, 11:11
Contact :
Statut : Hors ligne

Message par vv221 »

Finrod Felagund a écrit : jeu. 11 sept. 2025, 23:18 En tout cas, en ce qui nous concerne, en droit, ce n'est visiblement pas ça pour le moment.
De ce que je comprends il y a eu des tentatives, par des personnes un peu trop enthousiastes, mais les résultats ont été assez catastrophiques. Dans un domaine comme le droit, ça ne me surprend pas que ça se soit vu aussi vite.

Dans l’informatique c’est à peu près aussi nul, sauf que beaucoup de mes collègues sont eux aussi nuls et s’extasient donc bruyamment sur des résultats dont il n’y a pourtant aucune raison d’être fier. En bref ce n’est pas meilleur que dans le droit, mais le domaine est plus réceptif à ce que j’appelle « l’illusion des LLM ».
*en grève*

Installez facilement vos jeux sur Linux
Passez vos jeux en français

Les nazis et leurs sympathisants sont de sombres petites merdes. Ça devrait aller sans dire, mais apparemment un rappel n’est pas inutile.
Avatar du membre
Eleglin
Berserker ogre
Messages : 1065
Enregistré le : mar. 05 nov. 2002, 19:18
Localisation : Picardie
Contact :
Statut : Hors ligne

Message par Eleglin »

Pour l'emploi, il semble effectivement que l'IA serve de prétexte. Exemple, quand les gouvernement accorde des crédits à une agence à condition qu'elle déploie l'IA et liquide X emplois en contrepartie.
L'adéquation de l'IA n'est jamais évaluée au préalable, le but recherché est bien de liquider des postes.
Avatar du membre
Mortis
Troll
Messages : 1401
Enregistré le : ven. 19 juin 2015, 16:44
Localisation : Trop loin pour que tu puisses m'attraper... mouhahaha !
Statut : En ligne

Message par Mortis »

L'objectif même du R&D est de développer des techs qui permettent des économies d’échelle, notamment en diminuant le poids des salaires sur les revenus, en augmentant la productivité et en permettant de se débarrasser des "ressources humaines superflus"... L'IA juste une tech qui le permet, les gros de cette industrie en ont rien à foutre des droits d'auteur, de la paternité de l’œuvre ou de l'impact sur l'emploi, l'objectif est et restera de s'en mettre plein les fouilles.
Avatar du membre
loupgris92
Momie majeure
Messages : 3154
Enregistré le : jeu. 31 oct. 2019, 19:39
Statut : Hors ligne

Message par loupgris92 »

Concernant l'emploi, sauf erreur, j'étais tombé sur un article ou il me semble bien qu'une boite (je ne sais plus laquelle) avait licencié genre 2 000 personnes grâce à l'IA, pour au final, après désillusion, être obligée de rembaucher presque autant de monde pour gérer l'IA. ;)
J'ai l'impression qu'on revit l'automatisation des chaines de montage automobile d'il y a qques années.
De toute façon, à part s'adapter, rien n'arrêtera les avancées technologiques.
Il faudra bien entretenir ces robots "intelligents" j'imagine.
Avatar du membre
Mornagest
Grand Gourou
Élu de Mystra
Messages : 20482
Enregistré le : ven. 17 oct. 2003, 11:48
Localisation : Juste derrière vous, prêt à hurler BOUH !
Statut : Hors ligne

Message par Mornagest »

Un ministre généré par IA (non, ce n'est pas le premier avril).

On ne peut que s'interroger quant à la suite...
Administrateur général. Je modère dans cette couleur.

Rejoignez Melandis, la Cité du Chaos
La biographie de Mornagest ainsi que ses quêtes et sa couleur RP #6C84FF ; la biographie de Henk et sa couleur RP #3BBB34

"Ne vous imaginez pas être différente de ce qu'il eût pu sembler à autrui que vous fussiez ou eussiez pu être en restant identique à ce que vous fûtes sans jamais paraître autre que vous n'étiez avant d'être devenue ce que vous êtes."
(Lewis Caroll)
Avatar du membre
vv221
Golem d'adamantine
Messages : 5164
Enregistré le : dim. 17 août 2008, 11:11
Contact :
Statut : Hors ligne

Message par vv221 »

Mortis a écrit : ven. 12 sept. 2025, 10:46 L'objectif même du R&D est de développer des techs qui permettent des économies d’échelle, (…)
Ce n’est pas le cas des IA génératives. Une fois qu’on gratte un peu le discours des publicitaires, on se rend vite compte qu’elles sont inutilisables pour produire quoi que ce soit de correct.

On peut aussi constater que les licenciements soit-disant à cause du passage à des IA génératives correspondent en fait à ce que ces boîtes licenciaient déjà avant la mode des IA génératives, en utilisant juste un autre prétexte les années précédentes.


Mornagest a écrit : ven. 12 sept. 2025, 13:02 Un ministre généré par IA (non, ce n'est pas le premier avril).
Je connais quelques uns de nos ministres qui seraient avantageusement remplacés par une IA… D’une autre côté ils seraient aussi avantageusement remplacés, pour bien moins chers, par une brique :gign:

Plus sérieusement, c’est catastrophique pour l’Albanie. Ça montre que leur gouvernement n’en a plus rien à foutre du bon fonctionnement du pays, et qu’il est prêt à le vendre à la découpe aux premiers libertariens venus.
*en grève*

Installez facilement vos jeux sur Linux
Passez vos jeux en français

Les nazis et leurs sympathisants sont de sombres petites merdes. Ça devrait aller sans dire, mais apparemment un rappel n’est pas inutile.
D'Eon
Zombi
Messages : 49
Enregistré le : sam. 22 oct. 2011, 11:07
Statut : Hors ligne

Message par D'Eon »

Je suis plus nuancé sur l'utilité des IA.

On est tous à peu près d'accord pour dire que l'IA qui remplace totalement l'humain... ce n'est pas pour demain et qu'il y a encore de nombreux domaines où elle est incapable de faire quoi que ce soit de correct.

Mais il y a tout un tas de cas où ça fonctionne fort bien et remplace sans trop de problème un être humain. Ca ne va pas faire plaisir aux graphistes mais toute la génération d'images, par exemple, rend obsolète leur compétence. Le principal intérêt d'un graphiste est qu'il a la formation et le talent nécessaires pour transformer en image une idée. L'IA remplace totalement son talent en la matière. On mettra peut être un peu de temps et on devras réécrire le prompt peut être plusieurs fois, ce qui demande un peu de vocabulaire et la capacité à s'exprimer précisément, mais globalement, on obtient des rendus tout à fait utilisables. Parce qu'on ne va pas se mentir... qui, devant un logo d'entreprise, s'est extasié en pensant avoir sous les yeux une oeuvre d'art immortelle?

J'ai pris l'exemple du graphiste et du logo mais il y a des milliers d'applications comme celles-ci dans tous les corps de métier et je crains que la plupart des gens confondent "L'IA n'est pas capable" avec "l'IA n'est pas capable maintenant." Il ne faut pas oublier que c'est un outil qui en est à ses balbutiements et qui obtient déjà des résultats impressionnants.

Je pense qu'attaquer l'IA sous l'angle technique et capacité à faire est une très grosse erreur. Parce que ce qu'elle ne sait pas faire maintenant, elle saura le faire bientôt.

Une de mes connaissances a résumé la chose ainsi, et je pense qu'elle a tout à fait raison : l'IA est au col blanc ce que la machine outil a été au bleu de travail.

Je crois, tout comme la plupart d'entre vous je pense, qu'il faut encadrer et limiter l'usage de l'IA, mais pour des questions purement éthiques et écologiques. Parce que sous l'angle technique et économique... le fait est que c'est juste fabuleux. Même si des erreurs sont commises dans l'intégration de l'IA, ce qui est normal pour un tout nouveau joujou, ce sont des accidents de parcours inhérents à toutes les nouveautés majeures. Avant d'avoir nos Airbus... on a crashé quelques biplans.
Anios
Golem de fer
Messages : 3576
Enregistré le : sam. 20 juin 2009, 20:35
Localisation : Eorzea
Statut : Hors ligne

Message par Anios »

vv221 a écrit : ven. 12 sept. 2025, 13:37 Ce n’est pas le cas des IA génératives. Une fois qu’on gratte un peu le discours des publicitaires, on se rend vite compte qu’elles sont inutilisables pour produire quoi que ce soit de correct.
Ca dépend, comme on le voit récemment : la doubleuse FR de Lara Croft qui s'est vu dépouillée de sa voix par une IA générative, afin de rajouter des dialogues dans le dernier remaster. :gign:
https://www.gamekult.com/actualite/tomb ... 65741.html
Avatar du membre
Elzen
Grand Gourou
Glabrezu
Messages : 5283
Enregistré le : mer. 22 oct. 2003, 23:22
Localisation : Pas loin...
Contact :
Statut : Hors ligne

Message par Elzen »

loupgris92 a écrit : ven. 12 sept. 2025, 11:18J'ai l'impression qu'on revit l'automatisation des chaines de montage automobile d'il y a qques années.
L'automatisation des chaînes de montages, c'est un peu plus que quelques années, quand même :gign:

Et surtout, ça a comme différence majeure que les chaînes de montages automatisées fonctionnent de façon déterministe, on sait à quoi s'attendre, ce qui est un peu plus fiable pour l'automatisation qu'un truc qui te génère du texte sans aucune notion de vérification des faits dedans.

Ceci dit, je dirais qu'il y a bien un point commun à soulever en effet : avant de remplacer les gens dans les usines par des machines, on avait déjà fait ressembler autant que possible leur boulot à celui d'une machine avec le Taylorisme. Et l'« IA générative » arrive dans un monde où, entre les managers, les éditorialistes et les politiques, on fait déjà largement ressembler les productions humaines à du baratin, donc l'un dans l'autre, ça se tient, en effet :whistle:
D'Eon a écrit : ven. 12 sept. 2025, 14:29Ca ne va pas faire plaisir aux graphistes mais toute la génération d'images, par exemple, rend obsolète leur compétence.
Sans vouloir te vexer, je pense que tu gagnerais à te renseigner un peu plus sur cette branche d'activité :gign:

L'« IA générative » permet de produire rapidement du contenu préformaté, et d'imiter le style de certains artistes suffisamment connus pour ça. Mais ça reste très loin de couvrir tout le travail que peut faire quelqu'un qui manie directement les pinceaux, réels ou virtuels. D'ailleurs, dans pas mal de cas, les rendus IA restent assez facilement identifiables, notamment à cause des défauts difficilement dépassables par leur façon de fonctionner (je te renvoie par exemple à cet article, et tant qu'à faire, je t'invite à fouiller le reste du blog et à me prévenir quand une « IA générative » arrivera à faire quelque chose de propre sur ce modèle en moins d'efforts qu'il n'en faut à Gee pour faire ses dessins :whistle:)

Comme il me semble l'avoir mentionné plus haut, on est dans une situation où un usage pas négligeable des générateurs d'images est d'être utilisés par des gens qui commissionnent des artistes pour leur expliquer mieux qu'avec des mots ce qu'ils ont envie de voir dessiner. Que cet usage ne soit pas anecdotique me semble une réponse suffisante concernant une éventuelle obsolescence de l'art humain.
D'Eon a écrit : ven. 12 sept. 2025, 14:29je crains que la plupart des gens confondent "L'IA n'est pas capable" avec "l'IA n'est pas capable maintenant." Il ne faut pas oublier que c'est un outil qui en est à ses balbutiements et qui obtient déjà des résultats impressionnants.

Je pense qu'attaquer l'IA sous l'angle technique et capacité à faire est une très grosse erreur. Parce que ce qu'elle ne sait pas faire maintenant, elle saura le faire bientôt.
Sur ce plan-là, il me semble plus pertinent de te renvoyer vers l'autre sujet.

D'une part, il y a des limites de conception (ChatGPT est par exemple incapable de vérifier la véracité des informations qu'il donne simplement parce que l'outil est conçu pour prédire du texte et que la notion de véracité n'entre nulle part en ligne de compte dans sa conception ; il faudrait changer complètement son mode de fonctionnement pour arriver à un résultat fiable à ce niveau).

D'autre part, la qualité du résultat produit par un tel outil dépend en grande partiee de la qualité de ses données d'entraînement. Or, les contenus produits par IA étant de plus en plus présents autour de nous, la qualité de ces bases d'entraînement diminue d'autant (il est déjà démontré qu'une « IA générative » entraînée sur des données générées par une autre perd très rapidement en pertinence). D'où, d'ailleurs, la multiplication des attaques pour récupérer du contenu généré par humain comme celles que nous subissons ici.

Si on ajoute à ça les besoins énergétiques délirants de l'entraînement de ces outils (il a déjà fallu rallumer des centrales nucléaires juste pour alimenter les parcs de machines) et le fait que les boîtes qui bossent là-dedans sont toujours déficitaires, je pense que miser sur des progrès fulgurants au niveau des capacités est assez naïf, malgré ce qu'en dit le marketing :gign:
D'Eon a écrit : ven. 12 sept. 2025, 14:29Avant d'avoir nos Airbus... on a crashé quelques biplans.
En effet. Mais tu remarqueras qu'un Airbus, n'est qu'un modèle perfectionné de biplan, qui conserve les mêmes faiblesses et limitations théoriques. Pour avoir des véhicules individuels, on utilise une autre technologie. Pour aller dans l'espace, on utilise une autre technologie. Pour faire du transport de marchandises à grande échelle, on utilise une autre technologie. La question à se poser ici est peut-être plus : airbus ou biplan, quel est l'intérêt de mettre des efforts là-dedans ?
Elzen (mon blog, le Livre d'Argent). Statut : Plus ou moins dispo.
RP : Angus Mivert, barde bricoleur (#3CB371ma fiche).
Auteur de la Gigue des Ombres ; initiateur de feu le Projet nBg.
Supercalifragilisticexpialidocious, Kupo !!
Avatar du membre
SergioToutCourt
Spectateur
Messages : 4508
Enregistré le : mer. 19 févr. 2014, 14:31
Localisation : Charente-Matitime
Contact :
Statut : Hors ligne

Message par SergioToutCourt »

ministre des marchés public de l'Albanie -> Diella, une IA

https://www.cnews.fr/monde/2025-09-12/c ... cs-1738467
mes RPG & mes autres JV en Français

Tutoriel BG2 - chaîne Youtube - Pêche
Avatar du membre
vv221
Golem d'adamantine
Messages : 5164
Enregistré le : dim. 17 août 2008, 11:11
Contact :
Statut : Hors ligne

Message par vv221 »

Anios a écrit : ven. 12 sept. 2025, 15:25 Ca dépend, comme on le voit récemment : la doubleuse FR de Lara Croft qui s'est vu dépouillée de sa voix par une IA générative, afin de rajouter des dialogues dans le dernier remaster. :gign:
Sans IA générative, auraient-ils engagé cette doubleuse ? Je suis prêt à parier que non.

Merci d’avoir signalé ça en tous cas, c’est des remasters que j’avais prévu d’acheter mais il est hors de question que je finance ce genre de pratique. Tant pis, les versions originales me suffiront.
*en grève*

Installez facilement vos jeux sur Linux
Passez vos jeux en français

Les nazis et leurs sympathisants sont de sombres petites merdes. Ça devrait aller sans dire, mais apparemment un rappel n’est pas inutile.
Anios
Golem de fer
Messages : 3576
Enregistré le : sam. 20 juin 2009, 20:35
Localisation : Eorzea
Statut : Hors ligne

Message par Anios »

Je pense que si, ils l'auraient engagé. Car l'IA générative a servit à "compléter" des morceaux de dialogues FR. Mélanger sa voix à une autre à la suite aurait été bien trop dissonant (ça me rappelle les dialogues FR des animes dans les années 90, où tu avais 2 comédiens de doublages différents durant le même dialogue d'un personnage lol).

D'ailleurs, vu le battage médiatique, je sens que Aspyr va "devoir" l'engager pour faire bonne figure (ou alors supprimer tout l'audio).

Comme toi, je comptais les avoir un jour...mais clairement pas maintenant quand je vois ce que Aspyr ose faire.
J'espère que Françoise Cadol aurait gain de cause. Elle le mérite amplement.
Avatar du membre
vv221
Golem d'adamantine
Messages : 5164
Enregistré le : dim. 17 août 2008, 11:11
Contact :
Statut : Hors ligne

Message par vv221 »

Anios a écrit : ven. 12 sept. 2025, 17:28 Car l'IA générative a servit à "compléter" des morceaux de dialogues FR. Mélanger sa voix à une autre à la suite aurait été bien trop dissonant (…)
Mais ne pas doubler ces dialogues supplémentaires ne leur aurait posé aucun problème. Il suffit de regarder ce qu’a fait Beamdog pour les Baldur’s Gate, sans que ça nuise à leur image de manière significative, et sûrement pas à leurs ventes.

Je ne pense pas que leur hésitation a été entre engager Françoise Cadol ou passer par une IA générative, mais entre ne pas doubler ces nouveaux dialogues ou passer par une IA générative. Ce qui, dans ce cas, devait leur coûter à peu près la même chose (= rien).

Évidemment ils n’avaient pas prévu de se faire attaquer en justice, vu que les utilisations d’IA générative sont souvent considérées comme non soumises aux lois (malheureusement à raison).
*en grève*

Installez facilement vos jeux sur Linux
Passez vos jeux en français

Les nazis et leurs sympathisants sont de sombres petites merdes. Ça devrait aller sans dire, mais apparemment un rappel n’est pas inutile.
Anios
Golem de fer
Messages : 3576
Enregistré le : sam. 20 juin 2009, 20:35
Localisation : Eorzea
Statut : Hors ligne

Message par Anios »

vv221 a écrit : ven. 12 sept. 2025, 18:09 Je ne pense pas que leur hésitation a été entre engager Françoise Cadol ou passer par une IA générative, mais entre ne pas doubler ces nouveaux dialogues ou passer par une IA générative. Ce qui, dans ce cas, devait leur coûter à peu près la même chose (= rien).
Mais c'était le but de doubler les dialogues pour corriger certaines "imprécisions" de l'original. L'exemple donné dans l'article gamekult montre par exemple ;

- dans la VF originale, Lara dit "Deplace-toi avec les touches de déplacements"
- alors que la version IA dit "Pour se déplacer appuyer sur avancer, gauche ou droite"

On pourrait arguer des différences, mais dans le fond la version IA est plus "précise" d'où le remaniement du remaster (même si on est d'accord, c'est largement du travail de sagouin, comparé à Cadol)
Ils n'ont juste pas hésité à faire les petits rajouts en IA
Modifié en dernier par Anios le ven. 12 sept. 2025, 18:37, modifié 1 fois.
Avatar du membre
Le Marquis
d'Oghmatique
Rakshasa
Messages : 3828
Enregistré le : jeu. 17 juil. 2008, 16:45
Localisation : Sudiste
Statut : Hors ligne

Message par Le Marquis »

Mornagest a écrit : ven. 12 sept. 2025, 13:02 Un ministre généré par IA (non, ce n'est pas le premier avril).

On ne peut que s'interroger quant à la suite...
Sachant que le but de ce ministre IA est de lutter contre la corruption qui gangrène le pays (dans ce cas c'est l'attribution des marchés publics), c'est plutôt une bonne idée.
Ca ne marchera pas mais ce n'est pas grave, c'est bien tenté.
I believe in possibility
I believe someone's watching over me
And finally I have found a way to be
Happy, happy
Avatar du membre
Finrod Felagund
Blême
Messages : 963
Enregistré le : dim. 09 mars 2008, 19:08
Statut : Hors ligne

Message par Finrod Felagund »

Le Marquis a écrit : ven. 12 sept. 2025, 20:58 Sachant que le but de ce ministre IA est de lutter contre la corruption qui gangrène le pays (dans ce cas c'est l'attribution des marchés publics), c'est plutôt une bonne idée.
Ca ne marchera pas mais ce n'est pas grave, c'est bien tenté.
Deux choses. D'une part, l'Albanie étant un pays visiblement très accablé par la corruption, quand bien même l'objectif de la manœuvre serait de lutter contre celle-ci, on n'est pas forcé d'y croire, et en ce qui me concerne, je n'y crois pas du tout (après tout, il est tout à fait possible de biaiser les IA, comme on en a souvent eu la preuve ces derniers mois).
D'autre part, même si c'était effectivement le but recherché, une fin noble ne signifie pas que la technique est adéquate ni même souhaitable à cette fin, notamment eu égard au fait que pour les marchés publics, il y a un pouvoir de décision de la personne publique qui doit s'exercer. Le confier à une IA, ce n'est pas simplement se départir du processus, c'est se départir du pouvoir de choisir lui-même.
Avatar du membre
Guigui.
Banni
Loup vampirique
Messages : 1812
Enregistré le : mer. 07 mars 2007, 15:14
Localisation : Paris
Statut : Hors ligne

Message par Guigui. »

Oui mais si justement le pouvoir de choisir est dévoyé par la corruption et les mafias ? Comme le Marquis je trouve que c'est bien tenté, même si moi aussi j'ai des doutes sur la réussite de l'opération.

Après, je suppose que l'IA en question ne fait qu'analyser les offres des marchés. A la fin, il y a quand même un humain qui signe.
Avant, j'étais Xor de Xirius. Mais ça, c'était avant.
Avatar du membre
vv221
Golem d'adamantine
Messages : 5164
Enregistré le : dim. 17 août 2008, 11:11
Contact :
Statut : Hors ligne

Message par vv221 »

Le Marquis a écrit : ven. 12 sept. 2025, 20:58 Sachant que le but de ce ministre IA est de lutter contre la corruption qui gangrène le pays (…), c'est plutôt une bonne idée.
Je ne comprends pas ce qui en fait une bonne idée. Passer par un logiciel rend la corruption plus facile (c’est entre autres pour ça qu’on utilise du papier pour nos votes importants), donc j’ai du mal à voir comment ça peut aider ici.
*en grève*

Installez facilement vos jeux sur Linux
Passez vos jeux en français

Les nazis et leurs sympathisants sont de sombres petites merdes. Ça devrait aller sans dire, mais apparemment un rappel n’est pas inutile.
Avatar du membre
Finrod Felagund
Blême
Messages : 963
Enregistré le : dim. 09 mars 2008, 19:08
Statut : Hors ligne

Message par Finrod Felagund »

Guigui. a écrit : ven. 12 sept. 2025, 22:34 Oui mais si justement le pouvoir de choisir est dévoyé par la corruption et les mafias ? Comme le Marquis je trouve que c'est bien tenté, même si moi aussi j'ai des doutes sur la réussite de l'opération.

Après, je suppose que l'IA en question ne fait qu'analyser les offres des marchés. A la fin, il y a quand même un humain qui signe.
Si des personnes ont les moyens de dévoyer le pouvoir de choisir, je n'ai guère de doute sur le fait qu'ils aient le pouvoir de biaiser l'IA (via les critères du marché, au niveau des appels d'offres, en la forçant à choisir un candidat X plutôt que Y...). Le processus n'est pas plus fiable, pas plus transparent, mais en revanche, ça peut donner un vernis d'objectivité en affichant le fait que l'on confie le choix à une machine... qui n'est certainement pas infaillible, même si certaines personnes estimeront qu'elle l'est.
Avatar du membre
loupgris92
Momie majeure
Messages : 3154
Enregistré le : jeu. 31 oct. 2019, 19:39
Statut : Hors ligne

Message par loupgris92 »

vv221 a écrit : ven. 12 sept. 2025, 22:37 Je ne comprends pas ce qui en fait une bonne idée. Passer par un logiciel rend la corruption plus facile (c’est entre autres pour ça qu’on utilise du papier pour nos votes importants), donc j’ai du mal à voir comment ça peut aider ici.
C'est pourtant assez simple.
Le but ici concerne l'accès à des appels d'offres et au risque de conflit d'intérêts.
Quand tu reçois des devis, cela demande une analyse pas toujours très simple, la faute à diverses formulations entre les devis sur les prestations, et dans certains cas sur la méthodologie mise en oeuvre.
Le rôle de l'IA ici serait certainement la collecte et l'évaluation des appels d'offres avant la prise de décisions par un humain.
On parlerait alors d'une IA capable de faire en premier jet, par exemple un tri ici.

Pour rappel, il faudrait être un peu benêt pour croire que même en France, il n'y a pas des implications politiques à la fin sur certains appels d'offres qui peuvent menacer l'équilibre des forces.
Prenons le domaine de la construction et de nos majors, à aucun moment, tu ne verras un bouygues/eiffage/vinci rafler les trois plus grosses opérations d'Île-de-France (je ne parle pas des petites affaires à moins de 50 millions d'euros là)
Passer par un logiciel rend la corruption plus facile
Non vv221, Si Eiffage vient de terminer une opération qui s'est bien terminée avec son client, ce dernier le favorisera pour sa prochaine opération (en lui refilant pour qu'il s'aligne sur le devis adverse ou en modifiant certaines formulations). Regarde l'actualité, les seuls cas qui finissent devant un tribunal ce sont les cas ou il y a un enrichissement personnel ou quand Pierre privilégie Paul, membre de sa famille.
Pour le reste, la corruption au sens strict est bien présente tous les jours.
Donc s'imaginer qu'un logiciel rend la corruption plus simple, c'est ne pas avoir compris comment fonctionnent les choses.

(je préfère ne pas trop rentrer dans les détails)
Modifié en dernier par loupgris92 le sam. 13 sept. 2025, 09:34, modifié 1 fois.
Avatar du membre
Elzen
Grand Gourou
Glabrezu
Messages : 5283
Enregistré le : mer. 22 oct. 2003, 23:22
Localisation : Pas loin...
Contact :
Statut : Hors ligne

Message par Elzen »

C'est amusant, tu as l'air de considérer que le logiciel se gère lui-même, sans intervention extérieure :whistle:

Un humain qui prend les décisions, c'est :
– La personne elle-même qui peut faire du favoritisme, mais aussi
– Des personnes qui lui préparent le dossier en avance, et qui peuvent donc se débrouiller pour orienter ses choix.

Un logiciel dédié pour cette tâche, c'est :
– Plusieurs personnes qui en gèrent l'installation et la maintenance, dont chacune peut en profiter pour introduire des failles,
– Des failles qui aussi peuvent se trouver là de façon involontaire et néanmoins être utilisées par des attaquants,
– Et de nouveau et toujours des personnes qui préparent les données à lui passer (et ici, en plus : récupère les résultats avant de les transmettre), qui peuvent donc orienter les choses, d'autant plus facilement qu'ici, comme ce n'est pas un humain conscient qui récupère les données, le risque que la manip' soit détectée diminue considérablement.

Rien que ça, ça rend la machine plus vulnérable à la corruption, parce que des risqus sont ajoutés à plusieurs niveaux, qui de plus sont plus difficilement détectables (va trouver comme ça que c'est la mauvaise version du logiciel qui est installé).

Et là-dessus, un LLM à la place du logiciel dédié, c'est :
– Les mêmes risques que pour le logiciels, accrus parce que la génération du prompt devient d'autant plus sensible,
– Mais avec en plus les « hallucinations » qui rendent potentiellement le résultat mauvais juste par hasard.

Comme ça a été dit plus haut, si les experts en sécurité informatique recommandent le vote papier, y a une raison, hein.
Elzen (mon blog, le Livre d'Argent). Statut : Plus ou moins dispo.
RP : Angus Mivert, barde bricoleur (#3CB371ma fiche).
Auteur de la Gigue des Ombres ; initiateur de feu le Projet nBg.
Supercalifragilisticexpialidocious, Kupo !!
Avatar du membre
loupgris92
Momie majeure
Messages : 3154
Enregistré le : jeu. 31 oct. 2019, 19:39
Statut : Hors ligne

Message par loupgris92 »

Elzen trafiquer des appels d'offres, c'est enfantin (je pourrais t'en faire 10 pages).
Partant de ce constat, je vais quand même te donner mon avis, ça se passe en amont de ton logiciel de collecte de toute façon.

Donc pour moi, vous l'aurez compris, je n'y crois absolument pas, c'est de la com et rien de plus.


Je vais même te dire plus, il est nécessaire d'avoir une vision plus "globale" comme c'est le cas en France, pour éviter un carnage sur l'emploi et le risque de précarité des salariés (imagine que Vinci rafle tout et que Bouygues et Eiffage licencient à tour de bras). (ici, je ne parle plus d'opérations de 20 000 m², mais des mastodontes)
La tendance, c'est de nos jours (et c'est bcp mieux) de morceler ces "mastodontes" (ou un gros risque de défaillance pourrait intervenir) en lot attribué à différentes entreprises (cf l'hôpital de Nantes).

Pour rester dans le sujet SFR, qu'on a abordé sur un autre post, il va y avoir une régulation délicate si rachat pour éviter un déséquilibre. C'est un peu la même à un niveau encore plus important/impactant sur mon exemple deux lignes plus haut.
Modifié en dernier par loupgris92 le sam. 13 sept. 2025, 11:59, modifié 4 fois.
Avatar du membre
Guigui.
Banni
Loup vampirique
Messages : 1812
Enregistré le : mer. 07 mars 2007, 15:14
Localisation : Paris
Statut : Hors ligne

Message par Guigui. »

loupgris92 a écrit : sam. 13 sept. 2025, 09:31Elzen trafiquer des appels d'offres, c'est enfantin (je pourrais t'en faire 10 pages).
Pour préparer régulièrement des marchés publics et passer des appels d'offres, je confirme que tordre un peu une analyse des offres est effectivement assez facile. Je dis "un peu" parce que quand la différence de qualité entre 2 prestataires est trop importante, trafiquer l'analyse se voit.
Évidemment dans mon métier on ne le fait pas parce qu'on touche des billets, mais parce qu'on veut tel ou tel prestataire qu'on connaît bien et uniquement parce qu'il y a une différence de points minime avec le 2e. Ça m'est arrivé de le faire pour sauver un prestataire qui risquait de mettre la clé sous la porte si on ne le reprenait pas (et je n'ai pu le faire uniquement que parce que le concurrent avait perdu des points bêtement).

EDIT : après je ne parle que pour de petits marchés qui n'impliquent aucun politique, et pas du tout dans les travaux publics, le plus gros que j'ai fait c'était 1,5 M€/an sur 4 ans. Je pense que dans les travaux publics il y a plus de petits trafics. Il faut voir aussi qu'en France, au tournant des années 2000 il y a eu une loi qui a pas mal contraint les règles de la commande publique, pour mettre fin aux abus. Ça n'a pas tout réglé bien sûr, mais je pense que ça a amélioré les choses.
Modifié en dernier par Guigui. le sam. 13 sept. 2025, 11:47, modifié 2 fois.
Avant, j'étais Xor de Xirius. Mais ça, c'était avant.
Avatar du membre
loupgris92
Momie majeure
Messages : 3154
Enregistré le : jeu. 31 oct. 2019, 19:39
Statut : Hors ligne

Message par loupgris92 »

En fait, ce qu'on ne veut pas dans les appels d'offres, c'est l'enrichissement personnel et le favoritisme (au bénéfice par exemple d'un membre de sa famille) le reste, il faut dire ce qui est "on s'en branle" vulgairement.
Avatar du membre
Guigui.
Banni
Loup vampirique
Messages : 1812
Enregistré le : mer. 07 mars 2007, 15:14
Localisation : Paris
Statut : Hors ligne

Message par Guigui. »

loupgris92 a écrit : sam. 13 sept. 2025, 11:45 En fait, ce qu'on ne veut pas dans les appels d'offres, c'est l'enrichissement personnel et le favoritisme (au bénéfice par exemple d'un membre de sa famille) le reste, il faut dire ce qui est "on s'en branle" vulgairement.
Oui et non. Ce qui fait le plus peur au pouvoir adjudicateur, c'est le recours contentieux d'un candidat évincé, donc il faut pouvoir tout justifier. Je peux te dire que dans mon administration, les analyses d'offres sont blindées et taillées au cordeau.

Mais on s'éloigne complètement du sujet des IA...
Modifié en dernier par Guigui. le sam. 13 sept. 2025, 11:50, modifié 1 fois.
Avant, j'étais Xor de Xirius. Mais ça, c'était avant.
Avatar du membre
Elzen
Grand Gourou
Glabrezu
Messages : 5283
Enregistré le : mer. 22 oct. 2003, 23:22
Localisation : Pas loin...
Contact :
Statut : Hors ligne

Message par Elzen »

Non seulement c'est hors sujet, mais surtout, je ne vois juste pas le rapport avec le point soulevé, à savoir :
loupgris92 a écrit : sam. 13 sept. 2025, 09:31
vv221 a écrit : ven. 12 sept. 2025, 22:37Passer par un logiciel rend la corruption plus facile
Non vv221
Ben, si.

Comme dit plus haut, passer par un logiciel, quel qu'il soit, augmente considérablement le nombre de voies possibles pour une éventuelle attaque, donc rend la corruption plus facile.

Absolument tous les problèmes typiquement humains sur lesquels vous semblez être partis pour vous focaliser restent là, mais en plus on a les soucis habituels de la sécurité informatique, et si on passe par un LLM, on a encore en plus les soucis habituels des LLM.

Pour considérer qu'un LLM peut être une bonne idée dans ce genre de cas, il faut juste ne pas savoir comment fonctionne un LLM et n'avoir à peu près aucune notion de sécurité informatique :gign:
Elzen (mon blog, le Livre d'Argent). Statut : Plus ou moins dispo.
RP : Angus Mivert, barde bricoleur (#3CB371ma fiche).
Auteur de la Gigue des Ombres ; initiateur de feu le Projet nBg.
Supercalifragilisticexpialidocious, Kupo !!
Avatar du membre
vv221
Golem d'adamantine
Messages : 5164
Enregistré le : dim. 17 août 2008, 11:11
Contact :
Statut : Hors ligne

Message par vv221 »

Elzen a écrit : sam. 13 sept. 2025, 11:00 C'est amusant, tu as l'air de considérer que le logiciel se gère lui-même, sans intervention extérieure :whistle:
C’est normal, c’est le discours publicitaire des libertariens de tout poil, qui cherchent toutes les opportunités de se déresponsabiliser (ironique pour des personnes essayant tellement de construire des légendes autour de l’initiative individuelle et de l’indépendance des acteurs économiques). Donc ceux qui gobent leur soupe sans allumer ce qui leur reste d’esprit critique se retrouvent à ânonner ça sans réfléchir, incapable de réaliser qu’ils ne sont que les idiots utiles d’une bande de parasites qui ne sont arrivés là où ils sont que par la manipulation.
*en grève*

Installez facilement vos jeux sur Linux
Passez vos jeux en français

Les nazis et leurs sympathisants sont de sombres petites merdes. Ça devrait aller sans dire, mais apparemment un rappel n’est pas inutile.
Avatar du membre
loupgris92
Momie majeure
Messages : 3154
Enregistré le : jeu. 31 oct. 2019, 19:39
Statut : Hors ligne

Message par loupgris92 »

Guigui. a écrit : sam. 13 sept. 2025, 11:49 Oui et non. Ce qui fait le plus peur au pouvoir adjudicateur, c'est le recours contentieux d'un candidat évincé, donc il faut pouvoir tout justifier. Je peux te dire que dans mon administration, les analyses d'offres sont blindées et taillées au cordeau.
Aucune crainte à avoir si tu as sélectionné le moins cher. ;)
Sans compter que pour en justifier un plus cher, tu peux même manipuler l'offre en rajoutant qques lignes pour expliquer la différence de prix.
Pour avoir déjà été écarté, je ne suis pas assez con pour me fermer la porte avec un Bouygues/Eiffage/Vinci pour la suite et me plaindre en justice. :D
Avatar du membre
loupgris92
Momie majeure
Messages : 3154
Enregistré le : jeu. 31 oct. 2019, 19:39
Statut : Hors ligne

Message par loupgris92 »

vv221 a écrit : sam. 13 sept. 2025, 12:01 C’est normal, c’est le discours publicitaire des libertariens de tout poil, qui cherchent toutes les opportunités de se déresponsabiliser (ironique pour des personnes essayant tellement de construire des légendes autour de l’initiative individuelle et de l’indépendance des acteurs économiques). Donc ceux qui gobent leur soupe sans allumer ce qui leur reste d’esprit critique se retrouvent à ânonner ça sans réfléchir, incapable de réaliser qu’ils ne sont que les idiots utiles d’une bande de parasites qui ne sont arrivés là où ils sont que par la manipulation.
Modère un poil ton discourt vv221 ;)
Répondre

Retourner vers « Informatik' »

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 3 invités