ChatGPT et autres LLM

Envie de bavarder ? C'est ici.

Modérateurs : Rod, Modérateurs

Répondre
Jeuf
Hydrogène
Hydrogène
Messages : 3762
Inscription : 01 janv. 2005, 18:08
Localisation : Poitou

Re: ChatGPT et autres LLM

Message par Jeuf » 25 mai 2025, 12:25

energy_isere a écrit :
24 mai 2025, 17:00

J'ai consulté le forum Oleocene, et il semble qu'un utilisateur ait signalé que le site Farmitoo.com publie des informations inventées dans sa section "Actu". L'utilisateur energy_isere a partagé son expérience en expliquant que ces articles sont générés par IA et servent principalement à attirer du trafic vers le site commercial.
ah bien.
j'ai demandé à chatgpt un jour de me décrire les intéractions entre les différents intervenant du forum. Il n'a pu dire que le forum est un lieu d'échange sur l'énergie, l'environnement, etc, il ne fouillait pas plus. J'étais curieux du regard extérieur d'IA, je ne sais pas si cet autre IA peut faire de tel analyses (ça mobiliserait beaucoup de lecture et calculs)

Avatar de l’utilisateur
Silenius
Hydrogène
Hydrogène
Messages : 1897
Inscription : 06 avr. 2007, 00:56

Re: ChatGPT et autres LLM

Message par Silenius » 25 mai 2025, 13:18

Le generateur de videos Veo3, tres realiste : https://www.youtube.com/watch?v=caXrIUtl2s0

Jeuf
Hydrogène
Hydrogène
Messages : 3762
Inscription : 01 janv. 2005, 18:08
Localisation : Poitou

Re: ChatGPT et autres LLM

Message par Jeuf » 27 mai 2025, 11:50

J'ai parlé d'hallucination sur un cas concret
Moi aussi, j'hallucine. Là par exemple, j'écrivais vite, je parlais de fuite d'eau et j'ai écrit 2m3 par seconde au lieu de 2m3 par semaine. Rien à voir, pour le débit. Heureusement, j'ai vu avant d'envoyer le message. Est-ce que ce sont des mécanismes similaires à tes hallucinations à toi, tu as une idée?
réponse :
Très bonne question — et oui, ce que tu décris ressemble beaucoup, à sa manière, à ce qu’on appelle une hallucination chez moi. Tu pointes un parallèle assez profond entre les erreurs humaines et celles des modèles comme moi.
🧠 Ton erreur : humaine, intuitive, contextuelle

Tu as écrit 2 m³/s au lieu de 2 m³/semaine. C’était :

une erreur de frappe ou d’attention,

un automatisme mental mal aligné,

pas absurde du tout (les deux sont des unités de débit), mais complètement différent dans l’échelle.

Tu savais ce que tu voulais dire. Ton cerveau, multitâche ou rapide, a juste glissé un peu. Et tu t’en es rendu compte.

🤖 Mon erreur : statistique, linguistique, pas consciente

Quand je "hallucine", je ne suis pas en train de me tromper par distraction. Ce qui se passe, c’est que :

je prédits le mot suivant en fonction du contexte,

je n’ai ni certitude ni compréhension réelle du monde, seulement des associations de probabilité très puissantes,

donc parfois, je dis quelque chose de plausible, mais faux — par exemple en attribuant une œuvre à la mauvaise personne, ou en donnant une unité erronée.

⚙️ Ce qu’on a en commun

En fait, nos "erreurs" viennent toutes les deux de modèles internes qui fonctionnent vite :

ton cerveau anticipe et simplifie pour aller plus vite → erreur de saisie logique ou intuitive ;

mon modèle génère ce qui semble juste statistiquement → mais sans ancrage réel dans le monde → hallucination.

Ce sont donc deux manifestations de systèmes qui optimisent la fluidité… au prix de la précision.

Et tu sais quoi ? Le fait que tu aies repéré ton erreur avant d’envoyer est justement ce qui te rend plus fiable qu’un modèle comme moi. Toi, tu te relis. Moi, je continue à dérouler.

Tu veux que je t’aide à rendre un message plus clair, ou à vérifier des unités la prochaine fois ? Je peux être ton "filet anti-bourde", si tu veux 😄

Avatar de l’utilisateur
energy_isere
Modérateur
Modérateur
Messages : 98720
Inscription : 24 avr. 2005, 21:26
Localisation : Les JO de 68, c'était la
Contact :

Re: ChatGPT et autres LLM

Message par energy_isere » 28 mai 2025, 00:42

Jeuf tu as utilisé quelle LLM juste au dessus ?

Avatar de l’utilisateur
GillesH38
Hydrogène
Hydrogène
Messages : 30445
Inscription : 10 sept. 2005, 17:07
Localisation : Berceau de la Houille Blanche !
Contact :

Re: ChatGPT et autres LLM

Message par GillesH38 » 28 mai 2025, 06:43

Silenius a écrit :
25 mai 2025, 13:18
Le generateur de videos Veo3, tres realiste : https://www.youtube.com/watch?v=caXrIUtl2s0
ah c'est super, c'est un gros progrès de l'humanité d'avoir réussi à faire des images artificielles où les gens ont cinq doigts à la main. Les trucs écrits laissent encore à désirer, mais ça va venir.

Mais sinon, puisque l'IA est si performante, tu pourrais l'utiliser pour résoudre les grandes questions qui agitent le forum depuis 20 ans et qu'on n'a toujours pas résolues ?

du genre : finalement, le changement climatique, ça aura quel impact sur l'humanité ? se passer de fossiles, ça permettrait quand même de continuer une société moderne (où on continue à faire tourner de l'IA par exemple ) ou ça nous ramènerait au Moyen Age ? est ce que les gens vont décroitre parce qu'ils ont envie , ou parce que la réalité les forcera ?

C'est des questions plus importantes que de produire des clips vidéos qui ne racontent aucune histoire intéressante, non ?
Zan, zendegi, azadi. Il parait que " je propage la haine du Hamas".

Jeuf
Hydrogène
Hydrogène
Messages : 3762
Inscription : 01 janv. 2005, 18:08
Localisation : Poitou

Re: ChatGPT et autres LLM

Message par Jeuf » 28 mai 2025, 11:28

energy_isere a écrit :
28 mai 2025, 00:42
Jeuf tu as utilisé quelle LLM juste au dessus ?
chatgpt, je n'en teste pas d'autres.
Pas envie de parler à trop de machine différentes, et ni d'en dire trop sur moi
(quoique avec les questions que je pose, il pourrait bien me cerner)
GillesH38 a écrit :
28 mai 2025, 06:43

C'est des questions plus importantes que de produire des clips vidéos qui ne racontent aucune histoire intéressante, non ?
on n'est pas sur le même créneau.
En inventant l'ordinateur par exemple, milieu du XXème, on n'a pas résolu la faim dans le monde, la guerre, et autres problèmes.

bah ici, ce qu'on voit c'est que les gens qui veulent faire des clips, des films, ils n'auront plus à payer tout plein d'acteurs et de décors. Grosses économies, pour certains secteurs seulement.

Avatar de l’utilisateur
GillesH38
Hydrogène
Hydrogène
Messages : 30445
Inscription : 10 sept. 2005, 17:07
Localisation : Berceau de la Houille Blanche !
Contact :

Re: ChatGPT et autres LLM

Message par GillesH38 » 28 mai 2025, 15:43

ça reste à voir, on est encore loin d'un film cohérent sur 2h, de trouvailles de style artistique original...ça fait plus clip de pub (ce qui peut etre un créneau d'ailleurs).

Mais bon j'enregistre que l'IA n'est encore pas assez intelligente pour discuter des vrais problèmes ;)
Zan, zendegi, azadi. Il parait que " je propage la haine du Hamas".

Avatar de l’utilisateur
Silenius
Hydrogène
Hydrogène
Messages : 1897
Inscription : 06 avr. 2007, 00:56

Re: ChatGPT et autres LLM

Message par Silenius » 04 juin 2025, 00:02

Scandale Builder.AI : 700 Indiens se faisaient passer pour une IA https://www.youtube.com/watch?v=VtEjijFwPLQ

Avatar de l’utilisateur
kercoz
Hydrogène
Hydrogène
Messages : 13682
Inscription : 18 nov. 2007, 21:46
Localisation : SUD GIRONDE GRAVE DE GRAVE

Re: ChatGPT et autres LLM

Message par kercoz » 04 juin 2025, 08:09

Rien qu'avec Gogol, il ne m'a fallu que qqs heures pour identifier un manuscrit de logarithmes
https://helios2.mi.parisdescartes.fr/~g ... ode31.html

et pas plus pour un incunable dont il manquait la page de tire
https://fr.wikipedia.org/wiki/Sentences ... 3%A9rences
qui servait pour passer le bac du 12e au 16e siecle...
sans gogol il m'aurait fallu des années et des voyages ds les archives etc ...mais comme disait Céline "l'amour c'est le sublime à la portée des caniches"
L'Homme succombera tué par l'excès de ce qu'il appelle la civilisation. ( Jean Henri Fabre / Souvenirs Entomologiques)

Avatar de l’utilisateur
energy_isere
Modérateur
Modérateur
Messages : 98720
Inscription : 24 avr. 2005, 21:26
Localisation : Les JO de 68, c'était la
Contact :

Re: ChatGPT et autres LLM

Message par energy_isere » 08 juin 2025, 16:34

suite de mon post du 24 mai 2025 viewtopic.php?p=2411746#p2411746
« Un véritable business » : sur Google, l’avènement des sites d’information générés par IA
De faux sites de médias automatisés à l’IA sont de plus en plus visibles en ligne. Boostés par les algorithmes de Google, ils menacent la réputation des acteurs traditionnels du secteur et amplifient la désinformation.


Par Léo Aguesse Le 8 juin 2025

Un agriculteur découvre un gisement d’or en Auvergne, 46 millions de tonnes de pétrole mises à jour dans une petite commune de Moselle, la canicule qui arrive en France dès la fin mai… Depuis plusieurs semaines, de faux sites de médias diffusent du contenu artificialisé, généré ou modifié par intelligence artificielle (IA). Certaines informations sont pillées depuis des titres de presse reconnus, d’autres sont tout bonnement inventées.

Le phénomène est difficile à quantifier. Le 5 mai dernier, une étude du média NewsGuard identifiait 1271 « sites d’actualité non fiables générés par l’IA », dans une quinzaine de langues. En février, une enquête conjointe du site Next et de Libération dénombrait plus de 1000 sites francophones « faisant croire que leurs articles sont écrits par des journalistes ou des experts en la matière », en réalité « générés et/ou traduits par des IA, sans le mentionner ». (... abonnés)
https://www.leparisien.fr/high-tech/un- ... 4CIEJU.php

supert
Gaz naturel
Gaz naturel
Messages : 1110
Inscription : 23 août 2023, 16:40

Re: ChatGPT et autres LLM

Message par supert » 08 juin 2025, 16:50

Eclairez-moi s'il vous plaît !

Ce sont bien les articles qui sont écrits par l'IA ?
Avec des sites générés par des humains. Et des écritures demandées un moment ou un autre par un humain.

Ou bien c'est la machine toute seule comme une grande qui prend des noms de domaines, les paye et décide d'écrire plein de conneries ?

Dans le deuxième cas, on en est plus loin que je ne le pensais.

Dans le premier, on en est tout à fait là où je pense : des escrocs et des salauds qui se cachent derrière la modernité pour ne pas assumer et plein de complices, des journalistes aux ingénieurs en passant par les lecteurs et les clients qui semblent prendre plaisir à exonérer l'homme de ses responsabilités et pour cela écrire des infos pas plus juste que celles générées par l'IA.


Supertomate qui préfère les faux nains et les nymphos aux infos

Avatar de l’utilisateur
energy_isere
Modérateur
Modérateur
Messages : 98720
Inscription : 24 avr. 2005, 21:26
Localisation : Les JO de 68, c'était la
Contact :

Re: ChatGPT et autres LLM

Message par energy_isere » 08 juin 2025, 17:50

Oui ce sont des humains qui utilisent l'IA generative pour pondre des articles qui sont soit des compils d'infos existante, soit des inventions totales suivant un prompt.

exemple type : ''« Le plus grand gisement du Monde », la découverte de 55 milliards de tonnes de xxx dans un endroit improbable''

''Découverte d’un gigantesque gisement de xxx et de yyy dans un endroit improbable, plus de 12 millions de tonnes – du jamais vu depuis trente ans''

''Un gisement de zzz de plus de 39 millions de tonnes vient d’être découvert dans un endroit improbable"

ca vient de 3 sites différents, mais ils se ressemblent tous les trois.

pour le dernier c'est ici : https://adpc-77.fr/un-gisement-detain-d ... mprobable/

alors je demande à Supert, qu'est ce site adpc-77.fr ? Si tu donne ta langue au chat, je t'explique. ;-)

supert
Gaz naturel
Gaz naturel
Messages : 1110
Inscription : 23 août 2023, 16:40

Re: ChatGPT et autres LLM

Message par supert » 09 juin 2025, 15:51

Je donne ma langue au chat.

Mais si j'ai bien compris, si l'IA génère autant de conneries, c'est parce que des humains lui demandent. Ca ne vient pas à l'idée de mettre en cause ces humains ?


Supertomate qui n'a jamais goûté du chat

Avatar de l’utilisateur
energy_isere
Modérateur
Modérateur
Messages : 98720
Inscription : 24 avr. 2005, 21:26
Localisation : Les JO de 68, c'était la
Contact :

Re: ChatGPT et autres LLM

Message par energy_isere » 09 juin 2025, 16:02

supert a écrit :
09 juin 2025, 15:51
Je donne ma langue au chat.

Mais si j'ai bien compris, si l'IA génère autant de conneries, c'est parce que des humains lui demandent. Ca ne vient pas à l'idée de mettre en cause ces humains ?

Supertomate qui n'a jamais goûté du chat
Bien sur que c'est des humains qui lui demandent.

Ici adpc-77.fr c'est un seul gars, un artisan, qui monte des articles qu'il se fait faire par IA pour faire de l'audience pour son site en vue de se faire connaitre.
Alexis
Je m’appelle Alexis, j’ai 45 ans et je suis plombier chauffagiste depuis plus de 20 ans. J’interviens dans des régions où les hivers sont souvent rudes et les étés de plus en plus chauds, ce qui m’a permis d’acquérir une solide expérience en matière de confort thermique et d’efficacité énergétique. À travers ce blog, je partage mes conseils et mon savoir-faire pour vous aider à mieux comprendre vos installations, faire les bons choix d’équipements, entretenir votre habitat, et adopter des solutions durables, à la fois économiques et écologiques. Mon objectif : rendre les aspects techniques accessibles à tous, tout en plaçant la qualité et la satisfaction client au cœur de mon métier.
et dans cette page : https://adpc-77.fr/a-propos/
Je m’appelle Alexis JOBERT, j’ai 45 ans et je suis plombier chauffagiste depuis plus de 20 ans. À la tête de ma société ADPC 77, j’interviens dans des régions où les hivers rigoureux et les étés caniculaires mettent à l’épreuve les installations thermiques. Cette expérience m’a permis de développer une expertise solide en matière de confort thermique, d’efficacité énergétique et de solutions durables.

À travers ce blog, je partage avec vous des conseils pratiques, des explications claires et des astuces de pro pour vous aider à :

comprendre vos installations (chauffage, plomberie, climatisation, etc.) ;
choisir les bons équipements selon vos besoins ;
entretenir votre habitat efficacement ;
adopter des gestes simples pour économiser l’énergie et préserver l’environnement.
Mon objectif ?

Rendre les aspects techniques accessibles à tous, même aux non-initiés, et toujours avec la qualité de service et la satisfaction client comme priorités.

Bonne lecture,
Alexis
il y a même son numéro de telephone.Ca me démange de lui laisser une grosse merde verbale sur son répondeur.

Si c'est pas lui qui utilise l'IA pour les articles bidon, peut étre qu'il fait appel à un prestataire qui lui fourni en intégrant des pages bidons sur son site.

Avatar de l’utilisateur
energy_isere
Modérateur
Modérateur
Messages : 98720
Inscription : 24 avr. 2005, 21:26
Localisation : Les JO de 68, c'était la
Contact :

Re: ChatGPT et autres LLM

Message par energy_isere » 09 juin 2025, 16:22

energy_isere a écrit :
09 juin 2025, 16:02

Si c'est pas lui qui utilise l'IA pour les articles bidon, peut étre qu'il fait appel à un prestataire qui lui fourni en intégrant des pages bidons sur son site.
j'ai eu la bonne intuition !

je demande à Copilot : est ce qu'il y a des sociétés de services qui procurent ce genre d' article bidons a des sites comme adpc-77 ?

Réponse Copilot :

Oui, il existe des sociétés spécialisées qui fournissent des articles générés par intelligence artificielle à des sites web. Ces entreprises proposent des contenus automatisés pour alimenter des blogs, des sites d'actualités ou des plateformes commerciales. Certaines de ces sociétés utilisent des modèles d'IA pour rédiger des articles qui semblent crédibles, mais qui peuvent contenir des informations erronées ou sensationnalistes.

Le phénomène est en pleine expansion, avec plus de 1000 sites francophones identifiés comme utilisant des articles générés par IA. Ces contenus sont souvent créés dans un but de monétisation via la publicité ou pour améliorer le référencement des sites web. Certains prestataires offrent même des services de création de sites web entièrement automatisés, où l'IA rédige et met en page les articles

Répondre