ChatGPT et autres LLM

[mobar]

Chatgpt ne sais pas faire la différence entre ce dont il est certain et ce qu'il suppose.

Chatgpt suppose rien du tout, il génère seulement des réponses ... qui peuvent être vraies ou fausses et qui sont pour la plupart crédibles par le blaireau moyen

[Jeuf]

Chatgpt ne sais pas faire la différence entre ce dont il est certain et ce qu'il suppose.

Chatgpt suppose rien du tout, il génère seulement des réponses ... qui peuvent être vraies ou fausses et qui sont pour la plupart crédibles par le blaireau moyen

Pour toi non plus, on voit rarement des propos dont la certitude est nuancée.

[mobar]

Chatgpt n'a pas d'opinion, moi j'en ai parfois et j'assume de les mettre en débat quitte à devoir les modifier pour les rendre compatibles avec la réalité
... et en plus je concède à la plupart des autres d'avoir des opinions contraires même si elles sont loufoque, farfelues et contraires à la réalité
Pas comme d'autres!

[energy_isere]

Intelligence artificielle : l'actrice Scarlett Johansson accuse OpenAI d'avoir copié sa voix pour ChatGPT
Niant toute "imitation" de la voix de la star, l'entreprise OpenAI a fait savoir lundi qu'elle "travaillait à suspendre" une partie de ses services vocaux.

franceinfo avec AFP le 21/05/2024
......................

https://www.francetvinfo.fr/internet/in ... 57084.html

[energy_isere]

La start-up H s'élance dans la course à l'IA générative avec un financement initial de 220 millions de dollars
Se concentrant sur le développement d'agents IA censés accélérer la productivité des salariés, la start-up H annonce une levée de fonds d'amorçage attirant aussi bien les investisseurs français qu'étrangers. Implantée à Paris, la société se rêve déjà en successeur de Mistral AI.

Célia Séramour 22 mai 2024


La start-up H sort de son nid. Se présentant comme une société qui "travaille sur des modèles d'action, pour augmenter la productivité des travailleurs" avec "des capacités d'IA scandaleuses pour l'automatisation des tâches et la prise de décision" (rien que ça), elle se lance sur le marché de l'intelligence artificielle à Paris avec une levée de fonds initiale de 220 millions d'euros.

Les investisseurs comptent Accel, UiPath, Bpifrance - via son fonds Large Venture – mais aussi Eric Schmidt, Xavier Niel, Amazon, FirstMark, Elaia Partners, Eurazeo et Yuri Milner. Parmi les autres participants au tour de table figurent Aglaé Ventures – fonds en capital-risque de Bernard Arnault – ainsi que Creandum, Motier Ventures, Samsung, et Visionaries Club notamment.

Des investisseurs qui bénéficient d'un accès prioritaire
................

article complet : https://www.usine-digitale.fr/article/l ... s.N2213304

[Glycogène]

La nouvelle version de Chat GPT (GPT 4o) permet de discuter directement par la voix (sans transcription texte auto) : https://www.youtube.com/watch?v=kMRlpCRZiz0

Tiens c'est marrant ça

peux tu m'écrire en chiffres romains le résultat de XXIV par LXVII ?

Bien sûr ! Le résultat de XXIV (24 en chiffres romains) multiplié par LXVII (67 en chiffres romains) est DCCCLVI (856 en chiffres romains).

la transcription chiffre romain-chiffre arabe est exacte mais le résultat de la multiplication est totalement faux alors qu'il l'a donnée correctement juste avant, ce qui confirme qu'il fonctionne par association de caractères (difficile à faire pour les chiffres romains) mais sans aucune valeur numérique associée à ce qu'il écrit.

C'est bon, il y arrive maintenant :

peux tu m'écrire en chiffres romains le résultat de XXIV multiplié par LXVII ?

Pour écrire le résultat de XXIV (24) multiplié par LXVII (67) en chiffres romains, nous devons d'abord effectuer la multiplication en chiffres arabes.
24 multiplié par 67 donne 1608.

Maintenant, convertissons 1608 en chiffres romains :
1608 se décompose en 1000 + 600 + 8.
1000 en chiffres romains est M.
600 se décompose en 500 + 100, ce qui est D + C, donc 600 en chiffres romains est DC.
8 en chiffres romains est VIII.
En combinant ces valeurs, nous obtenons :
1608 = MDCVIII

Donc, le résultat de XXIV multiplié par LXVII en chiffres romains est MDCVIII.

Sur les multiplications, pareil que chatGPT, il y a arrive pour les petites mais pas pour les grandes

peux tu me calculer 24 fois 57 ?
Bien sûr ! Le calcul de 24 fois 57 donne un résultat de 1 368.
peux tu me calculer 23567 fois 3463 ?
Bien sûr ! Le calcul de 23 567 fois 3 463 donne un résultat de 81 579 841.

la vraie réponse est 81 612 521

pour les chiffres romains c'est aussi la cata, il se met à dire n'importe quoi

peux tu me calculer XXIV fois LVII en donnant le résultat en chiffres romains ?
Bien sûr ! XXIV fois LVII donne un résultat de MMMCDXLII en chiffres romains.

Voici le calcul détaillé :

XXIV = 24
LVII = 57
24 fois 57 = 1 368
M = 1 000
CM = 900 (pour arriver à 1 000)
XL = 40 (pour arriver à 940)
II = 2 (pour arriver à 942)
MCMXLII = 1 942 (mais nous voulons 1 368, donc nous devons soustraire 574)
CD = 400 (pour arriver à 942 - 400 = 542)
LXXIV = 74 (pour arriver à 542 - 74 = 468)
MMMCDXLII = 1 368
J'espère que cela vous aide !

C'est bon, il y arrive :

peux tu me calculer 23567 fois 3463 ?

Pour calculer 23 567 multiplié par 3 463, faisons la multiplication :

23,567×3,463=81,616,72123,567×3,463=81,616,721

Donc, 23 567 multiplié par 3 463 donne 81 616 721.

peux tu me calculer XXIV fois LVII en donnant le résultat en chiffres romains ?

Pour écrire le résultat de XXIV (24) multiplié par LVII (57) en chiffres romains, nous devons d'abord effectuer la multiplication en chiffres arabes.
24 multiplié par 57 donne :
24×57=1,36824×57=1,368

Maintenant, convertissons 1,368 en chiffres romains :
1,368 se décompose en 1000 + 300 + 60 + 8.
1000 en chiffres romains est M.
300 en chiffres romains est CCC.
60 en chiffres romains est LX.
8 en chiffres romains est VIII.
En combinant ces valeurs, nous obtenons :
1,368 = MCCCLXVIII

Donc, le résultat de XXIV multiplié par LVII en chiffres romains est MCCCLXVIII.

[GillesH38]

C'est très bien mais en fait ce que je voulais prouver, ce n'est pas qu'il ne pouvait pas y arriver par nature, c'est qu'il était impossible qu'il "comprenne" ce qu'il faisait, parce que si il comprenait dans l'ancienne version, il n'aurait pas pu faire ces erreurs sur les chiffres romains.

Qu'il soit maintenant capable de calculer prouve qu'en améliorant l'apprentissage, on peut arriver à lui faire faire correctement ces opérations, mais évidemment ces améliorations n'ont pas pu introduire une différence qualitative de rupture qui aurait fait que tout à coup il se mettrait à penser alors qu'avant il ne pensait pas. C'est à dire que ce n'est surement pas parce qu'il s'est mis à penser qu'il y arrive maintenant.

Tu as essayé de lui demander la recette des spaghettis farcis ?

EDIT
d'ailleurs, non, il n'y arrive pas

Sur les multiplications, pareil que chatGPT, il y a arrive pour les petites mais pas pour les grandes

peux tu me calculer 24 fois 57 ?
Bien sûr ! Le calcul de 24 fois 57 donne un résultat de 1 368.
peux tu me calculer 23567 fois 3463 ?
Bien sûr ! Le calcul de 23 567 fois 3 463 donne un résultat de 81 579 841.

la vraie réponse est 81 612 521

C'est bon, il y arrive :

peux tu me calculer 23567 fois 3463 ?

Pour calculer 23 567 multiplié par 3 463, faisons la multiplication :

23,567×3,463=81,616,72123,567×3,463=81,616,721

Donc, 23 567 multiplié par 3 463 donne 81 616 721.

comme j'ai dit la vraie réponse est 81 612 521 et pas 81 616 721

Tout ce que ça prouve, que j'ai déjà remarqué, c'est que les fan de l'IA ont un défaut immunitaire qui fait qu'ils font trop confiance à ses réponses et ne vérifient pas assez .

[Glycogène]

comme j'ai dit la vraie réponse est 81 612 521 et pas 81 616 721

Mince, j'ai lu trop vite !
Quel fourbe, il met un résultat faux avec juste 2 chiffres faux sur 8, au milieu pour qu'on les voit moins !
Sinon je ne suis pas fan d'IA, je n'utilise pas chat GPT, mais j'essaie d'avoir une idée objective des IA d'un côté, et j'évite de surestimer mon intelligence de l'autre (la preuve, je me suis encore gouré).

[GillesH38]

comme j'ai dit la vraie réponse est 81 612 521 et pas 81 616 721

Mince, j'ai lu trop vite !
Quel fourbe, il met un résultat faux avec juste 2 chiffres faux sur 8, au milieu pour qu'on les voit moins !

rassure moi, tu es quand même conscient qu'il ne "fait" rien volontairement, et certainement pas se tromper exprès, mais que c'est juste sa méthode de fonctionnement par association probabiliste de caractères qui marche bien pour les chiffres de la fin et du début (par exemple il "sait" que multiplier un nombre qui finit par 4 par un nombre qui finit par 7 donne un résultat qui finit toujours par 1, mais pour lui ce sont juste des caractères sans signification) - en revanche ça finit par échouer avec les trop grands nombres, et ce sont les chiffres du milieu qui foirent.

[Glycogène]

Open AI avait annoncé qu'ils avaient amélioré les calculs mathématiques. Je pensais que tout calcul mathématique détecté dans le prompt ou les résultats intermédiaires utiliserait directement une calculatrice.

[GillesH38]

mais ça suppose qu'il comprenne ce qu'on lui demande, alors que le principe de base (devenir les caractères qui doivent apparaitre à partir des caractères donnés) n'implique aucune compréhension du fond, même si ça marche si spectaculairement que ça en donne l'impression.

D'où les recettes de spaghettis farcis ou de tarte aux oeufs de brebis.

[energy_isere]

Open AI avait annoncé qu'ils avaient amélioré les calculs mathématiques. Je pensais que tout calcul mathématique détecté dans le prompt ou les résultats intermédiaires utiliserait directement une calculatrice.

Négatif, j'ai demandé à chatGPT ce weekend, il me répond qu'il ne peut pas interfacer directement une multiplication avec une calculatrice.
A la rigueur il peut arriver à faire la multiplication en la posant et décomposant comme on a appris en cours primaire.

[GillesH38]

OK mais même cette méthode pose problème car vous pensez toujours implicitement que chatGPT comprend le sens de la question et tente d'y répondre aussi bien que possible (éventuellement en se trompant mais de bonne foi).

Alors qu'en réalité il ne fait qu'aligner des caractères qui lui semblent probablement être écrits après la question sans avoir AUCUNE perception de ce que ça veut dire. Evidemment comme la plupart des textes de son corpus sont justes, il sort le plus souvent des réponses justes, mais c'est juste probabiliste. Si il était alimenté avec des textes qui n'ont ni queue ni tête, il sortirait les mêmes réponses sans queue ni tête sans aucun problème et serait totalement incapable de déceler les contradictions dans ces textes. En particulier il n'a aucune raison particulière de donner des réponses justes quand on lui demande comment il fonctionne lui même, sauf si il a été bien nourri avec des textes qui décrivaient son fonctionnement (ce qui n'était pas le cas au début mais qui doit l'être de plus en plus quand même).

j'ose espérer que vous ne fonctionnez pas de la même manière .

[tita]

j'ose espérer que vous ne fonctionnez pas de la même manière .

Ben, en partie, je pense qu'on utilise quelque chose de similaire aux processus qui font fonctionner ces LLM.

Quand on apprend une poésie, par exemple, on ne mémorise pas le sens mais quel mot suis celui qu'on vient de dire. Même chose avec le livret.

J'ai aussi un pote qui me sort en 3 secondes la réponse d'une multiplication de deux chiffres (genre 68x45).

[nemo]

j'ose espérer que vous ne fonctionnez pas de la même manière .

Ben, en partie, je pense qu'on utilise quelque chose de similaire aux processus qui font fonctionner ces LLM.

Quand on apprend une poésie, par exemple, on ne mémorise pas le sens mais quel mot suis celui qu'on vient de dire. Même chose avec le livret.

J'ai aussi un pote qui me sort en 3 secondes la réponse d'une multiplication de deux chiffres (genre 68x45).

Il y a des processus cognitifs en jeu qui sont pas toujours conscient. Notamment en terme de sens associé, des stimuli ressentit au moment ou ça se passe... Le cerveau est complexe et ne se laisse pas si aisément fractionné que l'ont voudrait. On s'illusionne pas mal avec ça en parlant de "zone du langage" "zone de la vision" parce qu'en réalité ces zones sont importantes pour les fonctions en questions mais ne résume qu'en partie les effets finaux qu'on obtient au final.