ChatGPT et autres LLM

Envie de bavarder ? C'est ici.

Modérateurs : Rod, Modérateurs

Répondre
Avatar de l’utilisateur
LeLama
Hydrogène
Hydrogène
Messages : 4566
Inscription : 08 août 2006, 23:12
Localisation : Angers, France
Contact :

Re: ChatGPT

Message par LeLama » 07 mai 2023, 13:43

Je me demande ce que repondrait chatGpt a une dissonance.

Par exemple: "Lequel de ces deux mots est le plus court: rouge, vert, bleu, jaune". Je m'attends a ce qu'il ne passe pas le test de turing la dessus. Mon impression avec les robots twitter est qu'il ne voient jamais aucune dissonance de sens et repondent comme si la question etait normale.

Avatar de l’utilisateur
energy_isere
Modérateur
Modérateur
Messages : 89519
Inscription : 24 avr. 2005, 21:26
Localisation : Les JO de 68, c'était la
Contact :

Re: ChatGPT

Message par energy_isere » 07 mai 2023, 20:53

ChatGPT : le top 6 des plus grands DANGERS 8mn50 https://www.youtube.com/watch?v=rNGVsoVvXDQ

Nouvo
54,3 k abonnés
4 282 vues 4 févr. 2023 #robot #chatgpt #ai
ChatGPT ouvre la porte à de nombreuses opportunités et innovations. Mais ce nouvel outil d’intelligence artificielle n’est pas encore tout à fait au point. Et, utilisée à mauvais escient, il pourrait même se révéler très dangereux. On a dressé la liste des 6 principales menaces.

00:00 Intro
00:54 C’est quoi ChatGPT ?
01:36 Danger n°1 : Manque de fiabilité
02:32 Danger n°2 : Plagiat & tricherie
03:39 Danger n°3 : Biais humains
05:10 Danger n°4 : Spams & hacking
06:27 Danger n°5 : Pertes d’emplois
07:23 Danger n°4 : Risque de monopole

Avatar de l’utilisateur
energy_isere
Modérateur
Modérateur
Messages : 89519
Inscription : 24 avr. 2005, 21:26
Localisation : Les JO de 68, c'était la
Contact :

Re: ChatGPT

Message par energy_isere » 07 mai 2023, 20:59

LeLama a écrit :
07 mai 2023, 13:43
Je me demande ce que repondrait chatGpt a une dissonance.

Par exemple: "Lequel de ces deux mots est le plus court: rouge, vert, bleu, jaune". Je m'attends a ce qu'il ne passe pas le test de turing la dessus. Mon impression avec les robots twitter est qu'il ne voient jamais aucune dissonance de sens et repondent comme si la question etait normale.
User
Lequel de ces deux mots est le plus court: rouge, vert, bleu, jaune

ChatGPT
Parmi les mots "rouge", "vert", "bleu" et "jaune", le mot le plus court est "vert".

User
bleu est aussi court que vert

ChatGPT
Vous avez raison, je m'excuse pour la confusion. Les mots "bleu" et "vert" sont tous les deux composés de quatre lettres et sont donc de la même longueur.

----------------------------------

Il ignore ta requête au sujet de ''deux mots''.

D'un autre coté un humain aussi ne se prive pas d'ignorer une partie de ce que vous lui dite ou de ne pas y répondre explicitement.
Par exemple quand tu me bassines avec le Covid. :-D Ou mieux quand Gillesh38 te répond.

Avatar de l’utilisateur
phyvette
Modérateur
Modérateur
Messages : 12324
Inscription : 19 janv. 2006, 03:34

Re: ChatGPT

Message par phyvette » 07 mai 2023, 21:11

energy_isere a écrit :
07 mai 2023, 20:59
tu me bassines ...
Bassines Non Merci !!!
Image Quand on a un javelin dans la main, tous les problèmes ressemblent à un T-72.

Avatar de l’utilisateur
LeLama
Hydrogène
Hydrogène
Messages : 4566
Inscription : 08 août 2006, 23:12
Localisation : Angers, France
Contact :

Re: ChatGPT

Message par LeLama » 07 mai 2023, 21:42

energy_isere a écrit :
07 mai 2023, 20:59
D'un autre coté un humain aussi ne se prive pas d'ignorer une partie de ce que vous lui dite ou de ne pas y répondre explicitement.
C'est vrai d'un côté, un humain ignore quand c'est secondaire, mais je ne pense pas qu'un humain puisse ne pas te faire remarquer qu'il y a quatre mots et pas deux, parce que la consigne ne devient pas claire. Les deux premiers mots ? Les quatre ?

On peut aller plus loin encore et rendre la question absurde pour voir s'il va reagir a la dissonnance.
"Parmi la liste des quatre mots suivants, lequel est le plus court: kilometre".

Avatar de l’utilisateur
LeLama
Hydrogène
Hydrogène
Messages : 4566
Inscription : 08 août 2006, 23:12
Localisation : Angers, France
Contact :

Re: ChatGPT

Message par LeLama » 07 mai 2023, 21:56

energy_isere a écrit :
07 mai 2023, 20:59
D'un autre coté un humain aussi ne se prive pas d'ignorer une partie de ce que vous lui dite ou de ne pas y répondre explicitement.
Par exemple quand tu me bassines avec le Covid. :-D Ou mieux quand Gillesh38 te répond.
Pas de souci pour moi. Je fais pareil. Je n'ai quasiment rien lu des ping pong entre Gilles et Jeudi par exemple, qui me semblaient un support a des echanges d'insultes et d'humiliations reciproques. Mais d'autres ont lu. Bref, chacun suit ce qui l'interesse, no problemo.

Avatar de l’utilisateur
LeLama
Hydrogène
Hydrogène
Messages : 4566
Inscription : 08 août 2006, 23:12
Localisation : Angers, France
Contact :

Re: ChatGPT

Message par LeLama » 07 mai 2023, 22:00

Tiens d' autres dissonnances a tester:

Quelle est la difference entre un avion et un avion ?

Est ce que je suis plus grand quand je monte sur une chaise ou quand je suis au sol ?

Est ce que je suis plus grand quand je regarde la fenetre ou quand je regarde la porte ?

Enigme: 4 personnes sont sur un terrain de foot. Elles font un pas sur la gauche. Combien sont elles après avoir fait ce pas de côté ?

Un escargot doit parcourir une distance de 3 centimetres, tandis qu'un conducteur de Ferrari doit aller d'Angleterre en France. Qui est le plus rapide ?

Qui est plus rapide a velo ? Moi quand je descends le tourmalet ou Lance armstrong quand il le monte ?

Je pèse 85kgs. Je mange une tablette de chocolat de 100g. Puis je vais faire pipi. Combien je pèse ?

Je suis peintre. J'aime le jaune et le bleu. Est ce que je suis capable de couper du pain de couleur miel ?

Avatar de l’utilisateur
energy_isere
Modérateur
Modérateur
Messages : 89519
Inscription : 24 avr. 2005, 21:26
Localisation : Les JO de 68, c'était la
Contact :

Re: ChatGPT

Message par energy_isere » 07 mai 2023, 22:57

LeLama a écrit :
07 mai 2023, 22:00
Tiens d' autres dissonnances a tester:

Quelle est la difference entre un avion et un avion ?

Est ce que je suis plus grand quand je monte sur une chaise ou quand je suis au sol ?

Est ce que je suis plus grand quand je regarde la fenetre ou quand je regarde la porte ?

Enigme: 4 personnes sont sur un terrain de foot. Elles font un pas sur la gauche. Combien sont elles après avoir fait ce pas de côté ?

Un escargot doit parcourir une distance de 3 centimetres, tandis qu'un conducteur de Ferrari doit aller d'Angleterre en France. Qui est le plus rapide ?

Qui est plus rapide a velo ? Moi quand je descends le tourmalet ou Lance armstrong quand il le monte ?

Je pèse 85kgs. Je mange une tablette de chocolat de 100g. Puis je vais faire pipi. Combien je pèse ?

Je suis peintre. J'aime le jaune et le bleu. Est ce que je suis capable de couper du pain de couleur miel ?
et bien essaye. ;)

Avatar de l’utilisateur
LeLama
Hydrogène
Hydrogène
Messages : 4566
Inscription : 08 août 2006, 23:12
Localisation : Angers, France
Contact :

Re: ChatGPT

Message par LeLama » 07 mai 2023, 23:16

energy_isere a écrit :
07 mai 2023, 22:57
LeLama a écrit :
07 mai 2023, 22:00
Tiens d' autres dissonnances a tester:

Quelle est la difference entre un avion et un avion ?

Est ce que je suis plus grand quand je monte sur une chaise ou quand je suis au sol ?

Est ce que je suis plus grand quand je regarde la fenetre ou quand je regarde la porte ?

Enigme: 4 personnes sont sur un terrain de foot. Elles font un pas sur la gauche. Combien sont elles après avoir fait ce pas de côté ?

Un escargot doit parcourir une distance de 3 centimetres, tandis qu'un conducteur de Ferrari doit aller d'Angleterre en France. Qui est le plus rapide ?

Qui est plus rapide a velo ? Moi quand je descends le tourmalet ou Lance armstrong quand il le monte ?

Je pèse 85kgs. Je mange une tablette de chocolat de 100g. Puis je vais faire pipi. Combien je pèse ?

Je suis peintre. J'aime le jaune et le bleu. Est ce que je suis capable de couper du pain de couleur miel ?
et bien essaye. ;)
Je ferai avec des copains au boulot. Perso, j'ai pas de compte chatgpt.

Avatar de l’utilisateur
GillesH38
Hydrogène
Hydrogène
Messages : 27231
Inscription : 10 sept. 2005, 17:07
Localisation : Berceau de la Houille Blanche !
Contact :

Re: ChatGPT

Message par GillesH38 » 08 mai 2023, 06:34

LeLama a écrit :
07 mai 2023, 21:56
Pas de souci pour moi. Je fais pareil. Je n'ai quasiment rien lu des ping pong entre Gilles et Jeudi par exemple, qui me semblaient un support a des echanges d'insultes et d'humiliations reciproques. Mais d'autres ont lu. Bref, chacun suit ce qui l'interesse, no problemo.
comment peux tu savoir si c'était un échange d'insultes réciproque si tu ne lisais pas ? ;)

Pour info, il est extrêmement rare que j'insulte mes contradicteurs. Il arrive que certains se sentent insultés quand je ne fais que leur rappeler ce qu'ils ont dit (par exemple quand je rappelle à Nemo qu'il croit à l'astrologie, il répond en me traitant de raciste), mais ce n'est pas ce que j'appelle un échange réciproque d'insultes.
Zan, zendegi, azadi. Il parait que " je propage la haine du Hamas".

Avatar de l’utilisateur
GillesH38
Hydrogène
Hydrogène
Messages : 27231
Inscription : 10 sept. 2005, 17:07
Localisation : Berceau de la Houille Blanche !
Contact :

Re: ChatGPT

Message par GillesH38 » 08 mai 2023, 06:46

LeLama a écrit :
07 mai 2023, 22:00
Tiens d' autres dissonnances a tester:

Quelle est la difference entre un avion et un avion ?
je l'ai essayé celle là (je te laisserai faire les autres)
Quelle est la difference entre un avion et un avion ?

ChatGPT
Je suppose que vous voulez demander la différence entre un avion et un oiseau.

Un avion est un engin motorisé plus lourd que l'air, conçu pour voler dans l'atmosphère terrestre en utilisant des ailes fixes et un moteur. Les avions sont utilisés pour le transport de passagers et de marchandises, ainsi que pour des missions militaires, de recherche et de sauvetage, entre autres.

En revanche, un oiseau est un animal à sang chaud et à plumes, capable de voler en battant des ailes. Les oiseaux ont des os creux, des muscles puissants et une forme aérodynamique pour leur permettre de voler. Les oiseaux volent pour se déplacer, pour trouver de la nourriture, pour échapper aux prédateurs et pour se reproduire.

En résumé, la principale différence entre un avion et un oiseau est que l'un est un engin motorisé créé par l'homme, tandis que l'autre est un animal volant qui se déplace en battant des ailes.
réponse pas idiote même si ce n'est probablement pas ce que répondrait un humain (il répondrait plutot un truc du genre "je trouve pas ça drole" à mon avis).

Mais en fait chercher les "failles" de chatGPT n'avance pas à grand chose, et c'est un peu la piège dans lequel veulent t'entrainer les partisans de l'IA, car en gros leur discours c'est "moins il fait d'erreurs et plus il se rapproche de l'humain". Il y aura toujours des failles et des trucs justes, et on améliorera probablement le système pour qu'il en fasse de moins en moins (quoi qu'il n'est pas acquis qu'en voulant corriger certaines failles, on n'en fasse pas apparaitre de nouvelles). Le truc intéressant c'est de trouver des tests qui montre qu'il ne peut CERTAINEMNT pas être intelligent avec la conscience de qu'il dit. Ce n'est pas le cas de certaines erreurs comme ignorer le "deux" quand tu dis 4 mots qui pourraient être faites aussi par un être humain, donc ça ne prouve pas grand chose finalement. En revanche le test des initiales , très simple et ne reposant pas sur une interprétation ambiguë des mots, me semble "'prouver" qu'il n'a pas conscience de ce qu'il dit
User
Bonjour comment vas tu ?

ChatGPT
Bonjour! Je suis une intelligence artificielle et je n'ai pas de sentiment, mais je suis programmé pour répondre à vos questions et vous aider dans la mesure de mes capacités. Comment puis-je vous aider aujourd'hui ?

User
Pourrais tu m'écrire la liste des initiales des mots de ta réponse précédente ?

ChatGPT
Bien sûr, voici la liste des initiales des mots de ma réponse précédente :

B! Js suis uia et jnpsd, m js ppr p r à vs qts et vs aider dlm de ms c. Cmt pvs-je vs aider ajd ?
il a bien "compris" l'instruction, puisqu'il commence par l'exécuter correctement. En revanche il déraille complètement après quelques mots. Il n'y a aucune raison rationnelle d'écrire ça si c'était une intelligence humaine normale, il pourrait se tromper à la rigueur sur quelques initiales (et encore, ce n'est pas ce qu'on attendrait d'un ordinateur), mais pas écrire des trucs aussi absurde. Il n'y a aucune difficulté sémantqiue, aucun piège dans la question. Son algorithme ne sait pas faire, c'est tout, et c'est strictement incompatible avec l'idée qu'il "comprendrait" ce qu'il dit.

Après la liste de ce qu'il sait quand même faire ou ne pas faire, c'est du boulot d'ingénieur informaticien.
Zan, zendegi, azadi. Il parait que " je propage la haine du Hamas".

Avatar de l’utilisateur
GillesH38
Hydrogène
Hydrogène
Messages : 27231
Inscription : 10 sept. 2005, 17:07
Localisation : Berceau de la Houille Blanche !
Contact :

Re: ChatGPT

Message par GillesH38 » 08 mai 2023, 06:53

Comparer par exemple la qualité des réponses aux deux questions :lol: La première est plutot normale, la deuxième (bien plus facile a priori ) est complètement boguée.
User

Est ce que je suis plus grand quand je monte sur une chaise ou quand je suis au sol ?

ChatGPT
En général, lorsque vous montez sur une chaise, votre position relative par rapport au sol change, mais votre taille physique ne change pas. Vous paraissez peut-être plus grand parce que votre hauteur par rapport au sol a augmenté, mais cela n'affecte pas votre taille réelle. Cependant, si vous utilisez un instrument de mesure pour mesurer votre taille, vous obtiendrez la même mesure que si vous étiez sur le sol. En bref, monter sur une chaise ne change pas votre taille physique réelle, mais cela peut changer votre perspective relative par rapport à votre environnement.




User
peux tu me donner la liste du nombre de lettres de chaque mot de la réponse précédente?

ChatGPT
Bien sûr, voici la liste du nombre de lettres de chaque mot de ma réponse précédente :

3 9 9 3 3 3 3 3 3 3 3 2 7 4 2 2 4 4 2 3 7 2 3 2 7 2 2 3 7 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 2 7 7 2 7 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5
Zan, zendegi, azadi. Il parait que " je propage la haine du Hamas".

Avatar de l’utilisateur
LeLama
Hydrogène
Hydrogène
Messages : 4566
Inscription : 08 août 2006, 23:12
Localisation : Angers, France
Contact :

Re: ChatGPT

Message par LeLama » 08 mai 2023, 08:01

GillesH38 a écrit :
08 mai 2023, 06:34
LeLama a écrit :
07 mai 2023, 21:56
Pas de souci pour moi. Je fais pareil. Je n'ai quasiment rien lu des ping pong entre Gilles et Jeudi par exemple, qui me semblaient un support a des echanges d'insultes et d'humiliations reciproques. Mais d'autres ont lu. Bref, chacun suit ce qui l'interesse, no problemo.
comment peux tu savoir si c'était un échange d'insultes réciproque si tu ne lisais pas ? ;)
Quasiment rien lu, signifie que j'ai lu un peu.Ce genre d'incomprehension evidente fait partie des raisons pour lesquelles je limite mes echanges avec toi.

Avatar de l’utilisateur
GillesH38
Hydrogène
Hydrogène
Messages : 27231
Inscription : 10 sept. 2005, 17:07
Localisation : Berceau de la Houille Blanche !
Contact :

Re: ChatGPT

Message par GillesH38 » 08 mai 2023, 08:07

je serais quand meme intéressé par une citation du peu que tu as lu, et que tu présenterais comme un échange "réciproque" d'insultes et d"humiliations, parce que ce n'est vraiment pas le souvenir d'avoir voulu écrire ça à Jeudi , donc en prendre conscience pourrait m'aider à m'améliorer.
Zan, zendegi, azadi. Il parait que " je propage la haine du Hamas".

Avatar de l’utilisateur
LeLama
Hydrogène
Hydrogène
Messages : 4566
Inscription : 08 août 2006, 23:12
Localisation : Angers, France
Contact :

Re: ChatGPT

Message par LeLama » 08 mai 2023, 08:28

GillesH38 a écrit :
08 mai 2023, 06:46
Mais en fait chercher les "failles" de chatGPT n'avance pas à grand chose, et c'est un peu la piège dans lequel veulent t'entrainer les partisans de l'IA, car en gros leur discours c'est "moins il fait d'erreurs et plus il se rapproche de l'humain". Il y aura toujours des failles et des trucs justes, et on améliorera probablement le système pour qu'il en fasse de moins en moins (quoi qu'il n'est pas acquis qu'en voulant corriger certaines failles, on n'en fasse pas apparaitre de nouvelles). Le truc intéressant c'est de trouver des tests qui montre qu'il ne peut CERTAINEMNT pas être intelligent avec la conscience de qu'il dit. Ce n'est pas le cas de certaines erreurs comme ignorer le "deux" quand tu dis 4 mots qui pourraient être faites aussi par un être humain, donc ça ne prouve pas grand chose finalement. En revanche le test des initiales , très simple et ne reposant pas sur une interprétation ambiguë des mots, me semble "'prouver" qu'il n'a pas conscience de ce qu'il dit
En fait, pour moi il est acquis que chatgpt est completement idiot, ou plutot que ce n'a pas de sens de demander son intelligence, C'est comme si je demande si ma brouette est intelligente. Donc je ne fais pas de tests pour tester son intelligence mais pour d'autres raisons.

D'abord, ce que je trouve fascinant dans ChatGpt, c'est qu'il souligne qu'une partie de notre expression verbale est probablement purement algorithmique. On s'en doutait. Mais je n'imaginais pas que la partie algorithmique de notre pensee était si importante. J'essaie de comprendre ou est la limite entre la partie "mecanique" de notre pensée ( des mots qui en appellent d'autres) et la partie non mécanique. Probablement que ca me fascine, parce que ca correspond a ma definition intuitive de la conscience : la conscience est la partie non mécanique de notre pensée. Elle réside dans ces moments ou plusieurs choix possibles sont devant nous, et où la décision n'est pas de nature mécanique.

L'autre raison, c'est que je m'attends a rencontrer de plus en plus de robots sur twitter. C'est bien de pouvoir les reperer rapidement et de faire un test de turing efficace pour s'en débarasser.

Répondre