Les IA génératives sont un fléau !

[loupgris92]

Absolument tous les problèmes typiquement humains sur lesquels vous semblez être partis pour vous focaliser restent là, mais en plus on a les soucis habituels de la sécurité informatique, et si on passe par un LLM, on a encore en plus les soucis habituels des LLM.

Je suis justement contre ces IA, car même avec elles la corruption ne sera pas endiguée, au final ces IA n'apportent qu'un risque informatique supplémentaire, dont on pourrait bien se passer.

[Elzen]

Ben, désolé, mais dans l'intervention à laquelle je répondais se terminait comme ça :

Donc s'imaginer qu'un logiciel rend la corruption plus simple, c'est ne pas avoir compris comment fonctionnent les choses.

Or c'est exactement le contraire, en fait Si tu comprends le fonctionnement côté aspect humain, tu vois que la corruption est tout aussi facile dans les deux cas, mais en plus, ne pas voir que le logiciel, quel qu'il soit, augmente les risques, c'est ne pas comprendre le fonctionnement côté informatique

Mais bon, si finalement on est d'accord là-dessus, autant arrêter de détourner le sujet.

[loupgris92]

Tu parles du risque supplémentaire importé par l'informatique, alors que moi, je parle de ce qui se passe en amont, la corruption est présente et le sera toujours.
Bref, je ne crois absolument pas en ces IA de collectes, outre de p-e faciliter la tâche de récupération de données (est-ce vraiment utile, j'en doute un peu).

[Le Marquis]

Pour considérer qu'un LLM peut être une bonne idée dans ce genre de cas, il faut juste ne pas savoir comment fonctionne un LLM et n'avoir à peu près aucune notion de sécurité informatique

C’est normal, c’est le discours publicitaire des libertariens de tout poil, qui cherchent toutes les opportunités de se déresponsabiliser (ironique pour des personnes essayant tellement de construire des légendes autour de l’initiative individuelle et de l’indépendance des acteurs économiques). Donc ceux qui gobent leur soupe sans allumer ce qui leur reste d’esprit critique se retrouvent à ânonner ça sans réfléchir, incapable de réaliser qu’ils ne sont que les idiots utiles d’une bande de parasites qui ne sont arrivés là où ils sont que par la manipulation.

J'allais tenter une réponse sur les messages postés précédemment, mais vu le niveau de condescendance qui règne ici je passe mon tour. Ca a quand même l'intérêt de me rappeler pourquoi j'évite soigneusement d'aller dans la salle des échanges.

[loupgris92]

Ouais, je me demande aussi si cette partie du forum ne devrait pas être plutôt réservée à nos élites.

[D'Eon]

Sans vouloir te vexer, je pense que tu gagnerais à te renseigner un peu plus sur cette branche d'activité

L'« IA générative » permet de produire rapidement du contenu préformaté, et d'imiter le style de certains artistes suffisamment connus pour ça. Mais ça reste très loin de couvrir tout le travail que peut faire quelqu'un qui manie directement les pinceaux, réels ou virtuels. D'ailleurs, dans pas mal de cas, les rendus IA restent assez facilement identifiables, notamment à cause des défauts difficilement dépassables par leur façon de fonctionner (je te renvoie par exemple à cet article, et tant qu'à faire, je t'invite à fouiller le reste du blog et à me prévenir quand une « IA générative » arrivera à faire quelque chose de propre sur ce modèle en moins d'efforts qu'il n'en faut à Gee pour faire ses dessins )

J'ai lu attentivement l'article. Et ça pleure parce qu'on voit que le résultat est de l'IA. Voui, je suis d'accord. Ca se voit. Et? Ca a sorti les illustrations quand même. Ca a fait le job. Alors, je comprends le scandale que ça représente quand c'est censé dénoncer les profits en précarisant les auteurs. Mais ... là encore, on est sur de l'hypocrisie, de l'éthique et de la morale. Pas du tout sur du technique. Le boulot est fait. Ce n'est pas du grand art, ça ne restera pas dans les annales, mais pour dessin technique visant à illustrer une idée... le boulot est fait.

J'admets volontiers que le boulot de graphiste recouvre bien plus de choses que de dessiner des logo, évidemment. Néanmoins, je persiste et signe, l'IA peut reproduire une bonne partie de leur travail sans forcer. Et je ne porte même pas de jugement de valeur sur la qualité du travail des graphistes (parce que non, tous ne sont pas des Picasso ou des Dali en puissance).



Pour ce qui est du reste concernant l'évolution des capacités de l'IA... voui, on est tous d'accord pour dire que leur qualité dépend de ce qu'on leur donne à manger. Les IA ont fait un départ canon (ce serait hypocrite de prétendre le contraire) et les potars ont été poussés à fond, trop loin et trop vite. Ca aussi, on est tous d'accord. Mais pour moi, c'est juste un accroc dans le parcours. Pas la fin de l'IA qui sera une bulle qui fait pschitt. Un peu comme la courbe de progression d'une entreprise qui n'est absolument pas linéaire, faite de hauts et de bas mais qui tend vers le plus. Oui l'IA n'est pas parfaite, loin s'en faut, oui ce n'est qu'un outil, oui ça a ses inconvénients (tu parlais du fait que c'est très énergivore, que ça a ses limites selon ce qu'on lui donne à manger) mais ... comme tous les outils. Comme tu le soulignes si bien toi-même quelques lignes en dessous à chaque usage son outil.

Et de ce point de vue là, je persiste et signe (à mon grand regret hein), l'IA remplace très efficacement le travail de pas mal d'humains. J'ai pris l'exemple des graphistes mais si celui-ci te chiffonne, j'ai parmi mes clients un expert comptable. Cabinet de 45 personnes. Il a intégré l'IA depuis une grosse année maintenant. Il utilise l'IA comme outil pour faire de la saisie. Jusqu'à présent, c'était un être humain qui recevait tous les documents, les identifiait et envoyait l'information dans la bonne case, pour faire les fiches de paie, les remboursements, les déclarations... bref tout ce que fait un comptable. Désormais, ses clients envoient les photo des documents, l'IA les analyse, les identifie et les saisit directement dans les bonnes cases. Ils n'ont plus qu'à faire de la vérification derrière pour s'assurer de ne pas faire de conneries.

Résultat des courses : taux d'erreur moyen de ses comptables : 4%. Taux d'erreur moyen de l'IA : 11%. Alors voui, les humains font mieux que l'IA. Mais l'IA fait ça toute seule, en automatique et instantanément, là où ses comptables mettent des heures. Sur sa quarantaine d'employés, y'en a une grosse moitié qui fait de la saisie. Et de son propre aveu, il peut en virer les trois quarts à la fin de l'année.

Heureusement pour ses employés, c'est un type bien qui est en train de chercher d'autres missions à leur confier plutôt que de les virer. Mais fondamentalement, l'IA remplace les trois quarts de l'équipe de saisie. C'est l'exemple type de l'IA correctement utilisée, dans la limite de ses atouts en tant qu'outil.

Ergo, on en revient à ce que je disais : l'IA est un outil. Comme tous les outils, il a ses fonctions et ses limites. Mais correctement utilisé, c'est un outil formidable et, si on veut l'attaquer, ce n'est pas sur le plan de ses limitations techniques qu'il faut le faire. Je crois qu'avec le temps, les gens qui se sont lancés dedans à corps perdu vont constater leurs erreurs et rééquilibrer l'usage qu'ils en font, pour le cantonner à ce qu'une IA est capable de faire. Et là encore, je crois que ce dont elle est capable va évoluer au fur et à mesure que l'outil va être perfectionné et que les retex vont affluer.

[Finrod Felagund]

J'ai lu attentivement l'article. Et ça pleure parce qu'on voit que le résultat est de l'IA. Voui, je suis d'accord. Ca se voit. Et? Ca a sorti les illustrations quand même. Ca a fait le job. Alors, je comprends le scandale que ça représente quand c'est censé dénoncer les profits en précarisant les auteurs. Mais ... là encore, on est sur de l'hypocrisie, de l'éthique et de la morale. Pas du tout sur du technique. Le boulot est fait. Ce n'est pas du grand art, ça ne restera pas dans les annales, mais pour dessin technique visant à illustrer une idée... le boulot est fait.

J'admets volontiers que le boulot de graphiste recouvre bien plus de choses que de dessiner des logo, évidemment. Néanmoins, je persiste et signe, l'IA peut reproduire une bonne partie de leur travail sans forcer. Et je ne porte même pas de jugement de valeur sur la qualité du travail des graphistes (parce que non, tous ne sont pas des Picasso ou des Dali en puissance).

Pour ce qui est du reste concernant l'évolution des capacités de l'IA... voui, on est tous d'accord pour dire que leur qualité dépend de ce qu'on leur donne à manger. Les IA ont fait un départ canon (ce serait hypocrite de prétendre le contraire) et les potars ont été poussés à fond, trop loin et trop vite. Ca aussi, on est tous d'accord. Mais pour moi, c'est juste un accroc dans le parcours. Pas la fin de l'IA qui sera une bulle qui fait pschitt. Un peu comme la courbe de progression d'une entreprise qui n'est absolument pas linéaire, faite de hauts et de bas mais qui tend vers le plus. Oui l'IA n'est pas parfaite, loin s'en faut, oui ce n'est qu'un outil, oui ça a ses inconvénients (tu parlais du fait que c'est très énergivore, que ça a ses limites selon ce qu'on lui donne à manger) mais ... comme tous les outils. Comme tu le soulignes si bien toi-même quelques lignes en dessous à chaque usage son outil.

Et de ce point de vue là, je persiste et signe (à mon grand regret hein), l'IA remplace très efficacement le travail de pas mal d'humains. J'ai pris l'exemple des graphistes mais si celui-ci te chiffonne, j'ai parmi mes clients un expert comptable. Cabinet de 45 personnes. Il a intégré l'IA depuis une grosse année maintenant. Il utilise l'IA comme outil pour faire de la saisie. Jusqu'à présent, c'était un être humain qui recevait tous les documents, les identifiait et envoyait l'information dans la bonne case, pour faire les fiches de paie, les remboursements, les déclarations... bref tout ce que fait un comptable. Désormais, ses clients envoient les photo des documents, l'IA les analyse, les identifie et les saisit directement dans les bonnes cases. Ils n'ont plus qu'à faire de la vérification derrière pour s'assurer de ne pas faire de conneries.

Résultat des courses : taux d'erreur moyen de ses comptables : 4%. Taux d'erreur moyen de l'IA : 11%. Alors voui, les humains font mieux que l'IA. Mais l'IA fait ça toute seule, en automatique et instantanément, là où ses comptables mettent des heures. Sur sa quarantaine d'employés, y'en a une grosse moitié qui fait de la saisie. Et de son propre aveu, il peut en virer les trois quarts à la fin de l'année.

Heureusement pour ses employés, c'est un type bien qui est en train de chercher d'autres missions à leur confier plutôt que de les virer. Mais fondamentalement, l'IA remplace les trois quarts de l'équipe de saisie. C'est l'exemple type de l'IA correctement utilisée, dans la limite de ses atouts en tant qu'outil.

Ergo, on en revient à ce que je disais : l'IA est un outil. Comme tous les outils, il a ses fonctions et ses limites. Mais correctement utilisé, c'est un outil formidable et, si on veut l'attaquer, ce n'est pas sur le plan de ses limitations techniques qu'il faut le faire. Je crois qu'avec le temps, les gens qui se sont lancés dedans à corps perdu vont constater leurs erreurs et rééquilibrer l'usage qu'ils en font, pour le cantonner à ce qu'une IA est capable de faire. Et là encore, je crois que ce dont elle est capable va évoluer au fur et à mesure que l'outil va être perfectionné et que les retex vont affluer.

Je suis assez d'accord sur beaucoup de points, en tout cas en ce qui concerne l'aspect technique. Certains se demandent si les llms commencent à montrer leurs limites en tant que technologie (c'est possible), mais son déploiement est loin d'être aussi avancé qu'il ne le sera dans quelques années, et d'autres améliorations finiront par suivre (dans quelle temporalité, aucune idée).

Par contre, effectivement, il va bien falloir se poser la question du système qui vient après. Parce que d'une part, comme tu l'indiques, tout le monde n'est pas fait pour être Picasso ou Dali, et qu'il faut bien que tout le monde mange à la fin. D'autre part, parce que si demain on en est au stade où, comme ton client expert-comptable, les entreprises dans leur ensemble peuvent faire pareil, lui-même ne mangera plus, parce qu'il n'aura plus de clients, vu que tout le monde est au chômage. D'où les questions du revenu universel (qui à mon avis, n'est pas forcément une solution en ce qu'elle prive les gens de tout pouvoir sur certains aspects), soit un mode de régulation alternatif.

Je doute que la technologie génère beaucoup d'emplois, comme lors des précédentes révolutions industrielles/technologiques. Mais je peux me tromper. Au final, ce que cette nouvelle technologie produira comme effet sur la société dépendra beaucoup de sa vitesse d'évolution et de ce que l'on fait dans l'intervalle. Si elle évolue trop vite, on part dans le mur, c'est certain.

Par ailleurs, dans une société utopique où la machine ferait tout mieux que l'homme et que celui-ci peut bien vivre sans avoir à se lever le matin pour aller travailler, je me demande quand même: pourquoi diable se lever le matin du coup ?

[Sarevok88]

Ce n’est pas le cas des IA génératives. Une fois qu’on gratte un peu le discours des publicitaires, on se rend vite compte qu’elles sont inutilisables pour produire quoi que ce soit de correct.

Ca dépend, comme on le voit récemment : la doubleuse FR de Lara Croft qui s'est vu dépouillée de sa voix par une IA générative, afin de rajouter des dialogues dans le dernier remaster.
https://www.gamekult.com/actualite/tomb ... 65741.html

Tu m'as devancé, j'allais justement en parler : M6 a fait un reportage sur le sujet, je trouve cela scandaleux, il n'y a plus de respect des comédiens de doublage ni des artistes qui prêtent leur voix pour assurer un travail de qualité.



C'est comme ceux qui ont tenté de refaire la voix d'Alain Dorval pour Sylvester Stallone par IA.. C'est totalement irrespectueux.

J'espère ne pas enfreindre la charte en publiant une vidéo Youtube, sinon je m'en excuse, n'hésitez pas à supprimer la vidéo.

[loupgris92]

C’est normal, c’est le discours publicitaire des libertariens de tout poil, qui cherchent toutes les opportunités de se déresponsabiliser (ironique pour des personnes essayant tellement de construire des légendes autour de l’initiative individuelle et de l’indépendance des acteurs économiques). Donc ceux qui gobent leur soupe sans allumer ce qui leur reste d’esprit critique se retrouvent à ânonner ça sans réfléchir, incapable de réaliser qu’ils ne sont que les idiots utiles d’une bande de parasites qui ne sont arrivés là où ils sont que par la manipulation.

C'est surtout vraiment idiot d'avoir un tel raisonnement, et d'occulter le fait par exemple que cette initiative individuelle peut permettre la création d'emplois.
Nous n'avons pas tous les mêmes aspirations (entreprendre).

une bande de parasites qui ne sont arrivés là où ils sont que par la manipulation

Alors c'est sûr, pendant 10 ans, j'ai bossé pour un salaire de misère (commencé à 12 000 francs pour atteindre 2 000€) et ce, pour 60 heures par semaine (je ne pleurais pas sur mes heures sup en tant que cadre, même si j'ai toujours payé celles de mes salariés par la suite).
Au moins cela m'a permis de passer, après 10 ans, directeur, puis gérant d'une autre boite et ensuite président d'une autre.
Tu as le droit d'être anarchiste, j'ai l'impression d'être moins intolérant que toi et d'avoir une vision un peu moins étriquée que la tienne surtout.
Il y en a un qui a pris le train en marche et l'autre qui est resté sur le quai à aboyer.
(je vous avais demandé de retirer ce post, mais comme vous refusez, j'y réponds )

[vv221]

Enfin une bonne nouvelle, et une confirmation que le contenu produit par les IA génératives est bel et bien du plagiat : La voix IA de Lara Croft supprimée dans Tomb Raider après la plainte de sa doubleuse - Numerama.

[Guigui.]

Oui dans ce cas précis, et tant mieux pour la doubleuse. Reste que :

- ce n'est pas l'IA qui commet le plagiat, c'est la société qui a utilisé l'IA.
- tu fais une généralisation excessive : une société a utilisé l'IA pour plagier la voix d'une doubleuse => preuve que le contenu produit par les IA génératives est bel et bien du plagiat ? Ben... non en fait.

[Finrod Felagund]

Quelques points sur lesquels il me paraît important de revenir, Guigui.

- D'une part, la neutralité de la technologie est pour moi largement un mythe. Certes, les effets d'une technologie ne se matérialiseront qu'à travers les usages qu'en font les humains. Toutefois, il reste que d'une part, une technologie est toujours orientée dans la manière dont elle est proposée (par exemple, les modèles de llms font l'objet d'alignements de la part de leur créateurs, qui peuvent tenter de leur faire privilégier certains biais, et ils ont été proposés d'une certaine manière et pas d'une autre. Pour les réseaux sociaux, ce sera les algorithmes qui utilisés pour pousser à l'engagement des utilisateurs, quitte à ce que ce soit un engagement conflictuel), et d'autre part, une technologie a toujours vocation a être utilisée par les humains, ce qui fait que pour moi ses utilisations majoritaires dépendront largement des traits majoritairement présents chez les utilisateurs (peut-on vraiment dès lors parler de neutralité, je ne suis pas sûr).

- D'autre part, la question du plagiat et de l'atteinte aux droits d'auteur se pose effectivement avec l'IA. Certes, pour le moment, certains pays leaders comme les USA sont réticents à règlementer car ils ont peur que cela freine le développement des technologies. Cela n'empêche la question de se poser. Ainsi, si je demande à un llm de me générer un portrait "dans le style du studio Ghibli", la question du plagiat peut effectivement se poser: c'est la patte même du studio qui fait l'objet de la demande. Ce n'est pas pour dire que tout le contenu généré par des llms est une atteinte aux droits d'auteur; mais il est certain qu'on tolère avec les llms des choses qui, si elles étaient produites par des humains, tomberaient beaucoup plus facilement sous le coup de la loi. Ce n'est pas pour rien que la société Anthropic a récemment accepté de payer un milliard et demi de dollars pour éviter un procès relatif aux livres sur lesquels son llm, Claude, avait été entraîné.

[loupgris92]

- ce n'est pas l'IA qui commet le plagiat, c'est la société qui a utilisé l'IA.

Même avis pour ma part.

L'IA a fait des progrès remarquables dans ce domaine. (sans porter de jugement sur le fond)

[Guigui.]

une technologie a toujours vocation a être utilisée par les humains, ce qui fait que pour moi ses utilisations majoritaires dépendront largement des traits majoritairement présents chez les utilisateurs (peut-on vraiment dès lors parler de neutralité, je ne suis pas sûr)

Je suis globalement plutôt d'accord avec toi, mais pas trop sur ce point précis. Sans vouloir faire de la philosophie de comptoir, si on réduit l'IA au concept de machine et la machine au concept d'outil, l'outil n'a même pas la faculté d'être "neutre" parce que ce n'est qu'un outil, il ne peut manifester aucune intentionnalité et n'est que le prolongement de l'humain qui l'utilise. De plus, si on va dans cette direction, est-ce qu'on ne risque pas de dédouaner ou de déresponsabiliser ceux qui utilisent l'IA de manière problématique ? Avec le risque d'émergence de discours de type "c'est l'IA qui est comme ça, voyez avec son concepteur, moi je n'ai fait que l'utiliser" ?

D'autre part, la question du plagiat et de l'atteinte aux droits d'auteur se pose effectivement avec l'IA. Certes, pour le moment, certains pays leaders comme les USA sont réticents à règlementer car ils ont peur que cela freine le développement des technologies. Cela n'empêche la question de se poser. Ainsi, si je demande à un llm de me générer un portrait "dans le style du studio Ghibli", la question du plagiat peut effectivement se poser : c'est la patte même du studio qui fait l'objet de la demande. Ce n'est pas pour dire que tout le contenu généré par des llms est une atteinte aux droits d'auteur; mais il est certain qu'on tolère avec les llms des choses qui, si elles étaient produites par des humains, tomberaient beaucoup plus facilement sous le coup de la loi. Ce n'est pas pour rien que la société Anthropic a récemment accepté de payer un milliard et demi de dollars pour éviter un procès relatif aux livres sur lesquels son llm, Claude, avait été entraîné.

Si tu demandes à un llm de te générer un portrait "dans le style du studio Ghibli", la question du plagiat ne se pose que dans 2 cas : tu monétises le portrait ainsi généré dans le cadre d'une utilisation commerciale, ou tu t'en sers dans un cadre académique sans citer le studio Ghibli. Si c'est pour ton usage personnel et dans un cadre privé, il n'y a pas de problème.
Après, on est clairement dans une période de flou, avec l'émergence d'un nouvel outil aux multiples conséquences qui va sans doute nécessiter un ajustement du droit. Cet ajustement va être différent selon les pays. Il est certain qu'avec l'influence actuelle de l'idéologie libertarienne sur la société américaine, ça risque d'être plus difficile pour les américains de légiférer là-dessus, sans compter qu'il y a effectivement des considérations économiques voire géopolitiques. Mais le droit est le reflet de la société et il change avec elle. Le cas que tu prends en exemple (Anthropic) montre bien que cette question des droits n'est pas laissée à l'abandon puisque la société a accepté de verser un dédommagement conséquent.

Là encore, mon point est : y'a-t-il une différence fondamentale entre demander à une IA de me générer un portrait "dans le style du studio Ghibli" et demander à un artiste commissionné de me générer un portrait "dans le style du studio Ghibli" ?

[Finrod Felagund]

Je suis globalement plutôt d'accord avec toi, mais pas trop sur ce point précis. Sans vouloir faire de la philosophie de comptoir, si on réduit l'IA au concept de machine et la machine au concept d'outil, l'outil n'a même pas la faculté d'être "neutre" parce que ce n'est qu'un outil, il ne peut manifester aucune intentionnalité et n'est que le prolongement de l'humain qui l'utilise. De plus, si on va dans cette direction, est-ce qu'on ne risque pas de dédouaner ou de déresponsabiliser ceux qui utilisent l'IA de manière problématique ? Avec le risque d'émergence de discours de type "c'est l'IA qui est comme ça, voyez avec son concepteur, moi je n'ai fait que l'utiliser" ?

Oui et non. Oui, strictement parlant, l'usage une machine (tant qu'elle n'a pas d'autonomie) dépendra de celui qui l'utilisera. Non, car par exemple, mettre un llm dans les mains d'une population assez jeune (qui a par exemple 12/13 ans) risque d'entraîner des effets assez prévisibles, que l'on pouvait facilement anticiper. En outre, oui, la manière dont une IA est proposée a un impact concret sur son utilisation. Ainsi, une entreprise développant une IA peut tenter de l'aligner de telle sorte qu'elle ne puisse communiquer certaines informations, quand bien même les utilisateurs les demanderaient. Ou à l'inverse, elle peut la débrider complètement, ce qui peut conduire à ce que la machine communique à qui lui demande des informations sur la fabrication d'armes bactériologiques.

Donc non, pour moi, la neutralité de la technologie, quand elle a vocation à être utilisée par une large frange de la population, ça n'est pas vraiment une réalité.

Si tu demandes à un llm de te générer un portrait "dans le style du studio Ghibli", la question du plagiat ne se pose que dans 2 cas : tu monétises le portrait ainsi généré dans le cadre d'une utilisation commerciale, ou tu t'en sers dans un cadre académique sans citer le studio Ghibli. Si c'est pour ton usage personnel et dans un cadre privé, il n'y a pas de problème.
Après, on est clairement dans une période de flou, avec l'émergence d'un nouvel outil aux multiples conséquences qui va sans doute nécessiter un ajustement du droit. Cet ajustement va être différent selon les pays. Il est certain qu'avec l'influence actuelle de l'idéologie libertarienne sur la société américaine, ça risque d'être plus difficile pour les américains de légiférer là-dessus, sans compter qu'il y a effectivement des considérations économiques voire géopolitiques. Mais le droit est le reflet de la société et il change avec elle. Le cas que tu prends en exemple (Anthropic) montre bien que cette question des droits n'est pas laissée à l'abandon puisque la société a accepté de verser un dédommagement conséquent.

Là encore, mon point est : y'a-t-il une différence fondamentale entre demander à une IA de me générer un portrait "dans le style du studio Ghibli" et demander à un artiste commissionné de me générer un portrait "dans le style du studio Ghibli" ?

Bien sûr, on ne parle de plagiat que dans le cadre d'une utilisation commerciale ou publique (car oui, tu peux également porter atteinte à l'image d'un studio/artiste sans faire de son travail une utilisation économique), l'usage strictement privé tombant dans la catégorie de l'usage personnel, du fair use, et autres notions dans la même veine. Que dans ce cadre, tu sollicites un artiste ou un llm, c'est pareil.

En revanche, et l'exemple de la voix de la doubleuse de Lara Croft le montre, c'est l'usage commercial d'un llm qui réplique par exemple le style ou même la voix d'un artiste. Et là oui, pour moi, il y a une question de plagiat, car le but même de l'opération est de répliquer le style ou la voix, via une machine entraînée sur le travail ou les productions d'autres personnes, sans que celles-ci aient été rémunérées. Les droits d'auteur ou le copyright ont été créés d'une part pour protéger le travail des artistes, et aussi pour ne pas dissuader la création artistique à des fins économiques. Je n'ai pas trop de doutes sur le fait qu'un équilibre finira par être trouvé (à quel prix pour qui, difficile à dire), mais ça prendra encore du temps.
Edit: Et il serait bon de préciser que les modèles de llms, lorsqu'ils s'entraînent sur des données (livres, images et autres) sans rémunérer ceux qui les ont produites, c'est déjà une utilisation commerciale. Car oui, les entreprises derrière vendent la capacité de ces outils à générer du contenu par référence aux données d'entraînement.

La question de fond pour moi est toujours la même: les IA, à quelle fin ? Pour plus de productivité, d'efficacité, répondront certains. Ok, c'est audible; mais à quel prix ? Quel est le coût environnemental (eau, énergie, terres rares...), quel est le coût humain (emploi, désinformation, amoindrissement des facultés cognitives) ? Est-ce que les gens seront au final plus heureux avec l'IA que sans ? Si demain, cela remplace trop d'emplois, a-t-on des alternatives ? Si elle devient trop dangereuse, peut-on la contrôler ?
Je ne vois pas beaucoup de réponses qui seraient satisfaisantes mises en avant à ces questions, donc je suis preneur.

Ceci étant, de ce que j'ai vu de mes recherches, les IA sont aujourd'hui proposées à des tarifs artificiellement bas, y compris les abonnements pros qui atteignent facilement les 230/250€ par mois. Les investissements que ça demande (pour l'entraînement, les centres de données, la génération de réponses aux questions) ne sont absolument pas rentabilisés, et toutes les sociétés autour de l'IA perdent des sommes d'argent considérables, chaque année. J'imagine qu'à terme, le prix devra être multiplié, et c'est là que des questions vont commencer à se poser (c'est aussi pourquoi l'on parle d'une bulle IA en ce moment).


Edit: Je pense qu'il serait plus juste de mettre ici un petit addendum sur un point. Pour moi, l'IA, sans doute plus que d'autres sujets, est révélatrice de certains traits chez les gens lorsqu'ils en parlent : le degré d'enthousiasme quant à la technologie (plus ou moins fort), le type de caractère (optimiste vs pessimiste), les convictions en matière environnementale. Étant sans enfants, dans un métier qui devrait probablement plus être augmenté que remplacé (à court/moyen terme en tout cas), plutôt de tendance pessimiste (notamment quant à l'état du monde), fatigué du modèle qui tourne autour de toujours plus de croissance, de productivité et de consommation... oui, tous ces éléments jouent certainement sur la vision que j'ai de cette technologie, dans sa forme présente, et dans sa forme potentiellement à venir. Donc même si tente d'être un minimum rationnel et si je vise à une forme d'objectivité, je ne suis pas neutre non plus.

[Guigui.]

Oui et non. Oui, strictement parlant, l'usage une machine (tant qu'elle n'a pas d'autonomie) dépendra de celui qui l'utilisera. Non, car par exemple, mettre un llm dans les mains d'une population assez jeune (qui a par exemple 12/13 ans) risque d'entraîner des effets assez prévisibles, que l'on pouvait facilement anticiper.

Hmm... C'est vrai que tu marques un point, là. A partir du moment où une partie de la population ciblée peut être qualifiée "d'irresponsable" (au sens où les individus, ici, sont trop jeunes pour avoir développé les armes intellectuelles leur permettant de réaliser pleinement les conséquences de ce qu'ils font), ça change la donne.

En revanche, et l'exemple de la voix de la doubleuse de Lara Croft le montre, c'est l'usage commercial d'un llm qui réplique par exemple le style ou même la voix d'un artiste. Et là oui, pour moi, il y a une question de plagiat, car le but même de l'opération est de répliquer le style ou la voix, via une machine entraînée sur le travail ou les productions d'autres personnes, sans que celles-ci aient été rémunérées.

Oui, je suis tout à fait d'accord que là c'est du plagiat.

La question de fond pour moi est toujours la même: les IA, à quelle fin ? Pour plus de productivité, d'efficacité, répondront certains. Ok, c'est audible; mais à quel prix ? Quel est le coût environnemental (eau, énergie, terres rares...), quel est le coût humain (emploi, désinformation, amoindrissement des facultés cognitives) ? Est-ce que les gens seront au final plus heureux avec l'IA que sans ? Si demain, cela remplace trop d'emplois, a-t-on des alternatives ? Si elle devient trop dangereuse, peut-on la contrôler ?
Je ne vois pas beaucoup de réponses qui seraient satisfaisantes mises en avant à ces questions, donc je suis preneur.

Je connais, à vrai dire, mal ces questions donc je suis dans une phase où je me renseigne et j'attends de voir, sans réelle position idéologique. Le coût environnemental est un truc qui me parle particulièrement et je pense que si on ne trouve pas un moyen de réduire considérablement et rapidement la charge de calcul, ça va vite devenir insoutenable. Pour le coût sur l'emploi, ça peut dépendre aussi du type d'emploi : si la machine remplace l'homme sur des tâches pénibles, répétitives, fastidieuses etc., il peut y avoir du bon si ça permet à l'homme d'avoir une expérience du travail plus intéressante. Évidemment, c'est tout théorique, je ne suis pas naïf, et dans de nombreux cas (voire la plupart) on va plutôt être sur de la destruction nette d'emploi. Après, la question "Est-ce que les gens seront au final plus heureux avec l'IA que sans ?" mérite en effet d'être posée mais elle peut aussi être posée pour à peu près toutes les technologies : est-ce qu'on est plus heureux avec internet ? Avec le téléphone ? Avec la télé ? Avec la voiture ? La seule chose dont je suis à peu près sûr, c'est qu'on est plus heureux avec la médecine moderne, puisqu'on guérit mieux, on vit plus longtemps et on souffre moins. Pour le reste...

Edit: Je pense qu'il serait plus juste de mettre ici un petit addendum sur un point. Pour moi, l'IA, sans doute plus que d'autres sujets, est révélatrice de certains traits chez les gens lorsqu'ils en parlent : le degré d'enthousiasme quant à la technologie (plus ou moins fort), le type de caractère (optimiste vs pessimiste), les convictions en matière environnementale. Étant sans enfants, dans un métier qui devrait probablement plus être augmenté que remplacé (à court/moyen terme en tout cas), plutôt de tendance pessimiste (notamment quant à l'état du monde), fatigué du modèle qui tourne autour de toujours plus de croissance, de productivité et de consommation... oui, tous ces éléments jouent certainement sur la vision que j'ai de cette technologie, dans sa forme présente, et dans sa forme potentiellement à venir. Donc même si tente d'être un minimum rationnel et si je vise à une forme d'objectivité, je ne suis pas neutre non plus.

Je pense que personne n'est neutre. Les trucs qui m'inquiètent le plus avec l'IA, en dehors du coût environnemental qu'on a évoqué, c'est la désinformation, les deepfakes, etc., parce que ça contribue à la désintégration des sociétés humaines et c'est en train de détruire (enfin, de participer à détruire parce que les causes sont, à mon avis, moins technologiques que socio-économiques) ce qu'il nous reste de démocratie. Mais ces fléaux étaient déjà présents avant l'IA. Sur ces sujets, l'IA donne juste un coup de boost.

EDIT : ce que je veux dire, finalement, c'est que l'IA est moins une cause qu'une conséquence. Elle s'inscrit dans un mouvement de croissance effrénée dont on refuse de voir qu'il est devenu insoutenable ; dans un mouvement de désintégration des sociétés, en particulier occidentales, ou le concept de vérité perd de sa force ; dans un mouvement de "techno-solutionnisme" associé à un retour des conservatismes sociaux, religieux etc. qui s'inscrit lui-même dans un mouvement beaucoup plus ancien, ce qu'on appelle les anti-Lumières. Mais une fois qu'on a dit cela, ça ne veut pas dire que 100% de l'IA est à jeter. Il faut se garder, à mon avis, des positions dogmatiques (je ne parle pas de toi, hein, au contraire ta position me semble très construite et réfléchie). Il y a aussi des applications positives de l'IA. La question est : dans quelle proportion ? Peut-être pas beaucoup, c'est vrai... Mais j'ai entendu parler d'applications en médecine, en biotech, en astronomie qui semblent tout de même constituer un vrai progrès.

Pour finir, une phrase que j'aime beaucoup tirée d'un de mes films préférés :
Replicants are like any other machine : they can be either a benefit or a hazard. If they're a benefit it's not my problem.
Deckard, blade runner

[loupgris92]

Concernant la vidéo que j'ai postée.
Pour rappel sur BG3 les voix sont en VO et seuls les sous-titres sont traduits.
Sachant que pour le premier protagoniste (Astarion) par exemple, le timbre et les intonations de sa voix sont particulièrement identiques à la VO.
Nous sommes d'accord, on peut ici parler de "plagiat", non ?

[Mornagest]

https://www.lemonde.fr/pixels/article/2 ... 08996.html

Article réservé aux abonnés du Monde (ce qui n'est pas mon cas), dont voici juste le chapeau :

Pour nourrir leurs IA de données, les entreprises tech ratissent le Web à l’aide de programmes automatisés. Des visiteurs bien encombrants, qui ralentissent les sites, pèsent sur leurs finances, et exploitent sans contrepartie leur production. La riposte s’organise.

Ça résume assez bien ce qu'il se passe sur le forum.

[vv221]

Ça résume assez bien ce qu'il se passe sur le forum.

En ce moment mon serveur personnel aussi se fait attaquer, via des dizaines de milliers de machines différentes chaque jour. C’en est arrivé au point où j’ai simplement du mettre hors-ligne la cible principale des attaques, sauf que contrairement au forum ça fait maintenant trois jours que ça dure sans interruption ni ralentissement des attaques, là où ici on est pour l’instant encore plutôt habitués à des vagues de 2 ou 3 heures.

Reste à espérer que ça n’évolue pas de la même manière sur notre forum, sinon il faudra commencer à s’habituer à ce que le forum ne soit plus en ligne que sur de courtes périodes d’accalmies, et inaccessible le reste du temps.

[Finrod Felagund]

Je ne résiste pas au plaisir de vous mettre ici deux vidéos d'archives de l'INA, que j'ai dégoté sur leur site :

https://www.ina.fr/ina-eclaire-actu/cha ... elle-robot

https://www.ina.fr/ina-eclaire-actu/jeu ... ctroniques

Sachant que les bases de la discipline n'ont été jeté qu'au début des années 1950, il est fou de voir que des gens tentaient déjà d'en faire quelque chose à la fin de cette décennie. Comme quoi, l'IA, ça fait bien 70 ans que ça a commencé comme histoire .

[vv221]

Non, le robot conversationnel n’est pas un truc qui va «changer nos paradigmes». Oui, un truc peut être à la mode et être complètement con. Non, on ne doit pas être nécessairement «subtil», «mesuré» ou «ouvert à la nouveauté».

— La guerre que mènent les robots ascientifiques contre la solitude intellectuelle

[Finrod Felagund]

Augmentation du prix de certaines cartes graphiques, possibles arrêts de certains modèles, ce en raison de la pénurie des composants liés à la mémoire, vu que tout part dans l'IA:

https://www.cowcotland.com/news/98605/c ... de-cm.html

Merci l'IA. La précédente crise des cartes graphiques, entre 2020 et 2022/23, avait été pénible, c'est sympa d'avoir du rab'.

[vv221]

La précédente crise des cartes graphiques, entre 2020 et 2022/23, avait été pénible

Elle était déjà causée majoritairement par la bulle précédant l’IA : les crypto-monnaies, puis leur variante très éphémère les NFT.

Ce qui explique en bonne partie pourquoi ces modes frénétiques sont autant poussées par les entreprises et les publicitaires à leur botte : ça fait vendre. Ça fait vendre énormément.

[Finrod Felagund]

Elle était déjà causée majoritairement par la bulle précédant l’IA : les crypto-monnaies, puis leur variante très éphémère les NFT.

Ce qui explique en bonne partie pourquoi ces modes frénétiques sont autant poussées par les entreprises et les publicitaires à leur botte : ça fait vendre. Ça fait vendre énormément.

Oui, je me rappelle du minage des cryptos, c'était fort pénible.

En tout cas, cette nouvelle pénurie ne fera pas les affaires des amateurs PC. Par chance, ma 4070 n'a que deux ans, et vu que la loi empirique de Moore ne se constate plus, il paraît plus difficile pour les cartes graphiques de progresser aussi vite qu'avant. Ce qui fait que je devrais pouvoir tenir la pénurie des prochaines années.

[Mornagest]

Sinon, faut braquer un centre d'IA (je plaisante, hein)

[vv221]

Par chance, ma 4070 n'a que deux ans, et vu que la loi empirique de Moore ne se constate plus, il paraît plus difficile pour les cartes graphiques de progresser aussi vite qu'avant.

Je joue avec une Radeon R9 390X de 2015 et une GeForce GTX 1080 de 2016, qui permettent toutes deux de faire tourner Baldur’s Gate 3 sans difficulté

M’est avis que tu vas pouvoir garder ta carte au moins dix ans de plus sans jamais avoir l’impression de te limiter au niveau des jeux disponible.

[Finrod Felagund]

Je joue avec une Radeon R9 390X de 2015 et une GeForce GTX 1080 de 2016, qui permettent toutes deux de faire tourner Baldur’s Gate 3 sans difficulté

M’est avis que tu vas pouvoir garder ta carte au moins dix ans de plus sans jamais avoir l’impression de te limiter au niveau des jeux disponible.

Dix ans, je ne sais pas, mais de ce que je vois, les jeux récemment sortis les plus gourmands ont comme configuration recommandée les séries des 2000 ou 3000. Mais comme les jeux aujourd'hui sont souvent optimisés à la truelle, ça pourrait aller plus vite que ce que l'on pense. J'imagine que GTA6 sera un bon étalon... s'ils se décident à le sortir.

[vv221]

J'imagine que GTA6 sera un bon étalon...

Un bon étalon des jeux qui se vendront juste sur leur nom, indépendamment de leur qualité réelle

[Le Marquis]

Personne ne connaît la qualité réelle de GTA VI pour l'instant.

[vv221]

Pour ceux qui se demandent encore à quel point les requêtes des bots nourrissant les IA génératives sont réellement un problème, voici une représentation visuelle des requêtes que mon serveur reçoit de leur part durant une seule minute : https://private.vv221.fr/m81n0abu/blackhole.webm

Chaque "balle" est une requête envoyée par un de ces bots. Si on a l’impression que ça s’arrête à la fin c’est uniquement parce que j’ai coupé la visualisation, le rythme ne ralentit pas.

Ce n’est pas spécifique à mon serveur, tout le Web est en train de se prendre ce genre d’attaque, en continu. Si vos sites favoris ont perdu en réactivité ou ont carrément disparu récemment, maintenant vous savez pourquoi.