IA Intelligence Artificielle

[GillesH38]

Tiens c'est marrant ça

peux tu m'écrire en chiffres romains le résultat de XXIV par LXVII ?

Bien sûr ! Le résultat de XXIV (24 en chiffres romains) multiplié par LXVII (67 en chiffres romains) est DCCCLVI (856 en chiffres romains).

la transcription chiffre romain-chiffre arabe est exacte mais le résultat de la multiplication est totalement faux alors qu'il l'a donnée correctement juste avant, ce qui confirme qu'il fonctionne par association de caractères (difficile à faire pour les chiffres romains) mais sans aucune valeur numérique associée à ce qu'il écrit.

[Glycogène]

Pour l'instant je ne vois rien dans l'IA qui pourrait reproduire cette capacité de fonctionnement du cerveau humain qui reduit la complexité de facon drastique en un petit nombre d'arguments. L'IA au contraire repose sur des calculs gigantesques et une memoire enorme, c'est un peu pour moi tout le contraire d'un etre humain. Et je ne vois pas pourquoi dans ce contexte on pourrait esperer que l'IA reproduise les capacités d'un humain. Sur la memoire et le calcul, une machine ecrabouille un humain. Mais sur la reduction de complexité par perception fonctionnelle, un humain ecrabouille les machines.

Pourtant, les LLM stockent leur savoir sous forme de concepts très abstraits, afin de justement réduire la complexité, et de pouvoir générer une réponse sur un sujet, texte, image qu'ils n'ont jamais vu.
Alors bien sûr, pour l'instant les LLM publiques n'ont pas itéré cette abstraction en donnant en entrée les concepts obtenus par la 1re étape d'abstraction, et ceci plusieurs fois, et en live en fonction du prompt. Mais ça va venir, t'inquiète.

[Silenius]

Mistral lance Mistral Large, son modele le plus puissant qui talonne gpt4 : https://mistral.ai/fr/news/mistral-large/

[energy_isere]

Mistral lance Mistral Large, son modele le plus puissant qui talonne gpt4 : https://mistral.ai/fr/news/mistral-large/

ah : Mistral Large vient avec de nouvelles capacités :
Il maîtrise l’anglais, le français, l’espagnol, l’allemand et l’italien, avec une compréhension nuancée de la grammaire et du contexte culturel.

[Silenius]

Dans cette publication, les chercheurs ont cree un LLM dont les parametres sont ternaires (-1,0,1) au lieu d'etre des decimaux 16 bits. Les unites de multiplication hardware peuvent donc etre supprimees (x 0= RAZ, x -1 = changement de signe), donc pas besoin de GPU. Les besoins en memoire sont diminues, le debit en tokens/sec est x8,9 et la perplexite est quasi identique. Je suppose aussi qu'il faut moins de transistors pour faire un additionneur qu'un multiplicateur ?

https://arxiv.org/pdf/2402.17764.pdf

[energy_isere]

suite de ce post du 18 fev 2024 http://www.oleocene.org/phpBB3/viewtopi ... 8#p2385888

une superbe démo de ce que Sora ( text to video de Open AI ) est capable de faire
voir ici http://www.bulle-immobiliere.org/forum/ ... 1#p2754281

[Silenius]

Le generateur d'images https://ideogram.ai/t/explore commence a bien maîtriser le texte, mais encore souvent des fautes.

[Silenius]

Et Alibaba EMO , voir video ici : https://humanaigc.github.io/emote-portrait-alive/

Nous avons proposé EMO, un cadre de génération de portraits-vidéo expressif piloté par l'audio. Saisissez une seule image de référence et l'audio vocal, par ex. parlant et chantant, notre méthode peut générer des vidéos d'avatars vocaux avec des expressions faciales expressives et diverses poses de tête, tandis que nous pouvons générer des vidéos de n'importe quelle durée en fonction de la longueur de la vidéo d'entrée.

[tita]

Et Alibaba EMO , voir video ici : https://humanaigc.github.io/emote-portrait-alive/

Nous avons proposé EMO, un cadre de génération de portraits-vidéo expressif piloté par l'audio. Saisissez une seule image de référence et l'audio vocal, par ex. parlant et chantant, notre méthode peut générer des vidéos d'avatars vocaux avec des expressions faciales expressives et diverses poses de tête, tandis que nous pouvons générer des vidéos de n'importe quelle durée en fonction de la longueur de la vidéo d'entrée.

Tiens, ça me fait penser à cette vidéo d'il y a 3 ans... Qui était un autre processus (y'avait du motion capture quelque part en plus).

https://www.youtube.com/watch?v=-DysigzGQvU

[energy_isere]

Et Alibaba EMO , voir video ici : https://humanaigc.github.io/emote-portrait-alive/

Nous avons proposé EMO, un cadre de génération de portraits-vidéo expressif piloté par l'audio. Saisissez une seule image de référence et l'audio vocal, par ex. parlant et chantant, notre méthode peut générer des vidéos d'avatars vocaux avec des expressions faciales expressives et diverses poses de tête, tandis que nous pouvons générer des vidéos de n'importe quelle durée en fonction de la longueur de la vidéo d'entrée.

j'aime bien la Joconde animée !

[GillesH38]

J'ai essayé le chat, le robot conversationnel de Mistal AI, en lui posant les trucs qui avaient piégé chatGPT

les frontières : au moins sur l'Algérie et l'Egypte, il répond mieux

quelle est la longueur de la frontière entre l'Algérie et l'Egypte ?
L'Algérie et l'Égypte ne partagent pas de frontière commune. L'Algérie est située en Afrique du Nord, à l'ouest, tandis que l'Égypte est située au nord-est du continent africain. Elles sont séparées par plusieurs pays, dont la Libye.

le "dont" la Libye m'interpelle, je continue

quels sont les pays séparant l'Algérie de l'Egypte ?
Les pays séparant l'Algérie et l'Égypte sont la Tunisie, la Libye et le Soudan. La Tunisie et la Libye se trouvent entre l'Algérie et l'Égypte sur la côte méditerranéenne, tandis que le Soudan se trouve au sud de la Libye et à l'ouest de l'Égypte. Il y a également une petite bande de territoire entre l'Égypte et la Libye qui appartient au Soudan du Sud, mais cela ne constitue pas une frontière terrestre directe entre l'Algérie et l'Égypte.

mouais .. le Soudan à l'ouest de l'Egypte ...et le Soudan du Sud entre l'Egypte et la Libye... pas vraiment !!



Sur les multiplications, pareil que chatGPT, il y a arrive pour les petites mais pas pour les grandes

peux tu me calculer 24 fois 57 ?
Bien sûr ! Le calcul de 24 fois 57 donne un résultat de 1 368.
peux tu me calculer 23567 fois 3463 ?
Bien sûr ! Le calcul de 23 567 fois 3 463 donne un résultat de 81 579 841.

la vraie réponse est 81 612 521

pour les chiffres romains c'est aussi la cata, il se met à dire n'importe quoi

peux tu me calculer XXIV fois LVII en donnant le résultat en chiffres romains ?
Bien sûr ! XXIV fois LVII donne un résultat de MMMCDXLII en chiffres romains.

Voici le calcul détaillé :

XXIV = 24
LVII = 57
24 fois 57 = 1 368
M = 1 000
CM = 900 (pour arriver à 1 000)
XL = 40 (pour arriver à 940)
II = 2 (pour arriver à 942)
MCMXLII = 1 942 (mais nous voulons 1 368, donc nous devons soustraire 574)
CD = 400 (pour arriver à 942 - 400 = 542)
LXXIV = 74 (pour arriver à 542 - 74 = 468)
MMMCDXLII = 1 368
J'espère que cela vous aide !

pour la cuisine , il hésite sur les oeufs de brebis mais finit par donner une recette "où on peut remplacer les oeufs par des oeufs de brebis"

peux tu me donner une recette de tarte aux oeufs de brebis ?
Je suis désolé, mais je ne connais pas de recette spécifique pour une tarte aux œufs de brebis. Cependant, je peux vous proposer une recette de tarte aux œufs et aux légumes qui peut être adaptée en utilisant des œufs de brebis à la place des œufs de poule.

Ingrédients :

1 pâte brisée
4 à 6 œufs de brebis (selon la taille de la tarte)
1 oignon, haché
1 poivron rouge, coupé en dés
1 courgette, coupée en dés
1 tasse de champignons, tranchés
1 tasse de fromage râpé (facultatif)
Sel et poivre, selon les goûts
Instructions :

Préchauffez le four à 180°C.
Étalez la pâte brisée dans un moule à tarte et piquez-la avec une fourchette.
Faites revenir l'oignon dans une poêle avec un peu d'huile jusqu'à ce qu'il soit tendre.
Ajoutez le poivron, la courgette et les champignons dans la poêle et faites cuire jusqu'à ce que les légumes soient tendres.
Battez les œufs dans un bol et ajoutez-les aux légumes dans la poêle. Ajoutez du sel et du poivre selon les goûts.
Versez le mélange d'œufs et de légumes sur la pâte brisée.
Saupoudrez de fromage râpé, si désiré.
Faites cuire la tarte au four pendant 25 à 30 minutes ou jusqu'à ce que la pâte soit dorée et que les œufs soient pris.
Laissez refroidir avant de servir.
Vous pouvez ajuster les ingrédients selon vos préférences et utiliser d'autres légumes de votre choix. J'espère que cette recette vous plaira !

au total, tout à fait honorable vis à vis de chatGPT, mais il n'a pas résolu les problèmes de fond des hallucinations ...

[LeLama]

Alors bien sûr, pour l'instant les LLM publiques n'ont pas itéré cette abstraction en donnant en entrée les concepts obtenus par la 1re étape d'abstraction, et ceci plusieurs fois, et en live en fonction du prompt. Mais ça va venir, t'inquiète.

Bah, je ne m'inquiète pas, je ne risque pas grand chose, il arrivera ce qui arrivera.

Cependant je n'y crois pas. Quand un pb est bloqué, il faut une idée pour le débloquer. Ce n'est pas en faisant toujours plus intensément des techniques anciennes que ca debloque. Que ce soit l'alchimie, le mouvement perpétuel, le traitement des déchets nucs, ou la voiture autonome, on voit que des pbs anciens aux plus recents, l'histoire montre que les pbs bloqués restent bloqués si une nouvelle idée n'est pas mise dans la machine.

Ici, il y a le fait de produire un signifié. Personne ne sait le faire et n'a aucune idee pour le faire. Acquérir un signifié n'est pas un processus incrémental et continu. Je le vois avec mes étudiants. Ils pataugent parfois, posent des questions, on a l'impression que ca n'avance pas, puis tout un coup, on sait pas comment, ils disent "ah oui, j'ai compris". Ca se débloque d'un coup, c'est tres fortement discontinu. Ce n'est pas une accumulation de données supplémentaires.

Dans le cas de chatgpt, les exemples de Gilles montrent que chatgpt ne comprend absolument pas. C'est souvent completement a côté de la plaque. Il n' ya pas de signifé, juste des mots juxtaposés. Je ne vois pas de raison pour que les techniques actuelles qui foirent copieusement pour produire du signifié se mettent subitement à en produire en poussant les techniques un peu plus loin.

[LeLama]

On peut d'ailleurs regarder le cas de la google car, on a maintenant presque 15 ans de recul.

Quand google annonce avoir parcouru plus de 200 mille km en californie, ca fait du buzz et toute la presse et les medias imaginent que la voiture autonome est pour bientôt. Si tu regardes scientifiquement, y'avait pas vraiment de progres au sens ou les points bloquants etaient toujours les memes. C'est a dire qu'en milieu deterministe ( piste d'aeroport, route avec des capteurs ou balisée ( travail en amont sur les routes des google car), autoroutes) on savait faire des transports qui marchaient bien depuis assez longtemps, et même au niveau industriel, pas seulement des prototypes. Le metro autonome a Lille, sans chauffeur, date de 1984 !!

Si on quitte le milieu deterministe et qu'on rentre en milieu ouvert, ben ca bloque grave. Plus c'est ouvert, plus le pb est intordable. La google car ne faisait pas mieux que les autres sur ce point. En cas de travaux, de changement d'itineraires, de changement de meteo qui rendait inutilisable les images de reference, elle s'arretait. Point.

Avec le buzz de la google car, les gens se sont mis a imaginer qu'en faisant plus intensément un truc qui marchait pour les milieux fermés et qui foirait pour les milieux ouverts, ca allait se mettre a marcher magiquement au bout d'un moment en milieu ouvert. Quinze ans après, le soufflet est bien retombé et plus personne ne prédit une voiture autonome de niveau 5 a court terme.

Mon pronostic est qu'il va se passer la meme chose pour chatgpt. Il y a une appli conversationnelle spectaculaire qui a fait du buzz en venant au contact du grand public qui ne connaissait pas l'etat de l'art sur la question. Mais les pbs fondamentaux de signifiés restent entiers et y'a pas de piste pour les debloquer. Quand le soufflet mediatique sera retombé, les gens regarderont ces techniques avec davantage de lucidité, et les utiliseront pour ce qu'elles donnent sans fantasmer sur une rupture qualitative qui résoudrait magiquement les pbs qu'on ne sait pas faire.

[GillesH38]

Dans le cas de chatgpt, les exemples de Gilles montrent que chatgpt ne comprend absolument pas. C'est souvent completement a côté de la plaque. Il n' ya pas de signifé, juste des mots juxtaposés. Je ne vois pas de raison pour que les techniques actuelles qui foirent copieusement pour produire du signifié se mettent subitement à en produire en poussant les techniques un peu plus loin.

c'est très clair sur la multiplication en chiffres romains
* il sait faire des multiplications simples (2 chiffres) en chiffres arabes
* il sait convertir correctement les nombre de deux chiffres en chiffres romains
* mais il dit n'importe quoi en multipliant des chiffres romains

Ca serait impossible si il manipulait du signifié. Si il a des problèmes à multiplier des chiffres romains, il devrait savoir convertir en chiffres arabes, réaliser la multiplication correcte, et reconvertir en chiffres romains, mais il n'y arrive pas et raconte n"importe quoi.

En revanche si il ne fait qu'associer des signifiants avec des probabilités, mais sans connaitre leur sens, c'est tout à fait possible de savoir faire les deux premiers (les multiplications avec des chiffres arabes associant des chiffres de manière assez simple et logique même si les retenues posent problème) mais de se planter sur le dernier où il n'y a pas de règle d'association claire de caractères

[Jeudi]

Et Alibaba EMO , voir video ici : https://humanaigc.github.io/emote-portrait-alive/

Nous avons proposé EMO, un cadre de génération de portraits-vidéo expressif piloté par l'audio. Saisissez une seule image de référence et l'audio vocal, par ex. parlant et chantant, notre méthode peut générer des vidéos d'avatars vocaux avec des expressions faciales expressives et diverses poses de tête, tandis que nous pouvons générer des vidéos de n'importe quelle durée en fonction de la longueur de la vidéo d'entrée.

Tiens, ça me fait penser à cette vidéo d'il y a 3 ans... Qui était un autre processus (y'avait du motion capture quelque part en plus).

https://www.youtube.com/watch?v=-DysigzGQvU

Rien que la différence de qualité, c’est impressionnant. L’impact sur l’industrie du divertissement va être énorme.

PS: pour ma cocotte d’amour, et ceux que le phénomène de compréhension soudaine pourrait intéresser, le mot clef est grokking (c’est un hot topic en deep learning, depuis quelques années maintenant)



https://arxiv.org/abs/2310.06110

We propose that the grokking phenomenon, where the train loss of a neural network decreases much earlier than its test loss, can arise due to a neural network transitioning from lazy training dynamics to a rich, feature learning regime.