ChatGPT et autres LLM

[energy_isere]

Paul Jorion - Intelligence Artificielle : Le grand chambardement vidéo 23 mn https://www.youtube.com/watch?v=Mxgd_S0raho

Au sujet des évènements de la semaine dernière chez OpenAI.

[energy_isere]

Un an après le lancement de ChatGPT, l'intelligence artificielle générative a-t-elle déjà changé nos vies ?

Article de Franceinfo 3 dec 2023

....................

long article https://www.msn.com/fr-fr/actualite/cul ... 372f&ei=69

Pour ma part , très peu d'impact. Moins d'une demi douzaine de vrai demande à chat GPT en dehors de l' amusement initial.

et dans ma boite ce n'est pas un sujet. Aucune application, et j'ai même pas entendu de plan futur la dessus.

[GillesH38]

sujet du café des sciences à Grenoble ce mardi 5 décembre !

[energy_isere]

IA : Google présente Gemini, sa réponse au GPT-4 d'OpenAI
Google a présenté son nouveau modèle d'IA, Gemini. Capable de générer du texte mais aussi des images, du son et de la vidéo, il doit permettre d'améliorer son chatbot Bard. Mais pas seulement.

Par Leïla Marchand lesechos le 6 déc. 2023

La liste des alternatives à OpenAI vient encore de s'allonger. Mais pas avec n'importe quel challenger. Le géant Google a présenté ce mercredi Gemini, son nouveau modèle d'IA. « C'est notre modèle d'IA le plus conséquent, le plus doué et aussi le plus général », a assuré Eli Collins, vice-président de Google DeepMind, le laboratoire de recherche en IA du groupe californien, lors d'une présentation à la presse.

La firme de Mountain View tente de rattraper son retard face au créateur de ChatGPT, qui connaît un succès mondial et s'est rendu quasiment incontournable dans les entreprises grâce au soutien de son grand partenaire, Microsoft, qui a intégré sa technologie dans toute sa gamme de produit, de Windows à Teams en passant par la suite Office et ses services cloud.

Modèle de fondation

Pris de court face au « phénomène ChatGPT » lancé il y a un an, Google avait présenté en juillet son propre chatbot, baptisé « Bard », mais resté méconnu face à son rival ChatGPT. Son nouveau modèle Gemini n'est pas destiné à remplacer Bard, mais au contraire à l'améliorer. Car il s'agit d'un nouveau modèle de fondation. Jusqu'ici, Bard était sous-tendu par l'architecture LaMDA, un modèle plus ancien développé par Google ces dernières années.

« Pour s'assurer de rebondir, Google y a mis les moyens, a mis en oeuvre une réorganisation d'ampleur de sa R&D, en fusionnant DeepMind et Google Brain, et a fortement réorienté l'ensemble des efforts de ses chercheurs sur les modèles d'IA génératives - ce qui est inédit car les chercheurs de DeepMind à Paris avaient historiquement une forte liberté de choix de leurs sujets », commente Aimé Lachapelle, managing partner au sein du cabinet de conseil Emerton Data.

Gemini « voit », identifie des objets, raisonne…

Ainsi, dans une présentation à la presse, Gemini a fait la démonstration de ses capacités de raisonnement sophistiquées. Dans une vidéo, on voit un utilisateur lui montrer des objets, des dessins et des vidéos. Le système d'IA commente à l'oral ce qu'il « voit », identifie les objets, joue de la musique et répond à des questions requérant un certain degré d'analyse, en se justifiant.

Par exemple, face à l'image d'un canard en plastique, Gemini est capable d'en déduire la matière et donc qu'il flotterait si on le mettait dans l'eau. Avec très peu de contexte, le modèle d'IA peut également reconnaître des références, comme lorsqu'on lui montre une vidéo d'une personne semblant éviter des balles au ralenti et qu'il déduit qu'il s'agit d'une référence au film « Matrix ».

Pour prouver ces capacités de raisonnement, Gemini a passé des tests et aurait ainsi surpassé des experts humains à un test standard dans l'industrie, le « MMLU ». Ce test sert à évaluer les capacités de ces programmes informatiques à raisonner dans différents domaines, des mathématiques à l'histoire et au droit.

Mais l'autre atout clé de Gemini est d'être « nativement multimodal », donc à même d'analyser et générer du texte, du code, de l'audio et de la vidéo. « Pouvoir dialoguer via des robots conversationnels avec tous types de documents est une nécessité. Aujourd'hui nous travaillons avec une bonne partie des groupes du CAC 40, et une grande partie des cas d'usage d'IA générative qu'ils nous remontent impliquent des données de natures différentes : textes, vidéos, images, données tabulaires, graphiques, voix… » note Aimé Lachapelle.

« Gemini dépasse les performances de GPT-4 dans ce domaine, en attendant GPT-5 annoncé pour 2024 », abonde Frédéric Brajon, directeur général du cabinet de conseil Saegus. Mais selon lui, la réelle nouveauté est la version « nano » de Gemini, qui « peut être exécutée en local, sans accès Internet ni appel à des serveurs de donnée sur le cloud ».

Bard boosté dès mercredi

Dès cette semaine, Gemini doit venir alimenter Bard, d'abord seulement en anglais, puis « dans les prochains mois » dans de nouvelles zones géographiques, précise le communiqué. Mais ce n'est pas tout : Gemini sera également intégré aux derniers téléphones Pixel de Google. A partir de l'année prochaine, le Pixel 8 Pro sera ainsi doté de nouvelles fonctions, comme celle de « résumer » un contenu dans l'application « Enregistreur » ou la génération de réponses automatiques dans les applications de messagerie.

Dans les prochains mois, le recours à Gemini devrait être étendu dans d'autres services clé de Google tel que son moteur de recherche, son navigateur Chrome et son service de publicité Google Ads.

Mais la firme dirigée par Sundar Pichai ne compte pas laisser son grand ennemi Microsoft et la start-up OpenAI s'approprier le reste du marché de l'IA générative. Alors que plus de 2 millions de développeurs utilisent déjà les API d'OpenAI - d'après les déclarations du dirigeant, Sam Altman -, Google annonce également qu'à compter du 13 décembre, les développeurs et les entreprises pourront accéder à Gemini Pro par le biais de l'API Gemini et ainsi s'en saisir pour développer leurs propres services.

Leïla Marchand

https://www.lesechos.fr/tech-medias/hig ... ai-2039738

[mahiahi]

L'UE a une loi sur l'IA (pour la diction)!...

Mais en fait

Les interdictions seront rares. Elles concerneront les applications contraires aux valeurs européennes comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine, ou encore l'identification biométrique à distance des personnes dans les lieux publics pour éviter une surveillance de masse des populations.

Sur ce dernier point, les États ont toutefois obtenu des exemptions pour certaines missions des forces de l'ordre, comme la lutte contre le terrorisme.

Et pour les JO de 2024?

https://www.france24.com/fr/europe/2023 ... tificielle

[energy_isere]

La start-up française Mistral AI lève 385 millions d'euros pour son IA open source
Six mois après sa création, la start-up vedette de l'IA en France est désormais valorisée à deux milliards de dollars. Le prestigieux fonds Andreessen Horowitz et le leader des GPU Nvidia sont entrés dans son capital.

Jérôme Marin 05 décembre 2023 et Mis à jour 11 Déc. 2023

Mise à jour le 11 décembre : Nouvelle levée de fonds d’envergure pour Mistral AI. Lundi 11 décembre, la start-up française spécialisée dans l’intelligence artificielle générative a officialisé un tour de table de 385 millions d’euros, mené par le prestigieux fonds de capital-risque américain Andreessen Horowitz. Nvidia, Salesforce, BNP Paribas ou encore CMA CGM ont également participé à l'opération, dont une partie a été réalisée sous la forme d’obligations convertibles. Six mois après son lancement, Mistral AI est désormais valorisée à deux milliards de dollars.

Article original : Six mois à peine après son lancement, Mistral AI devrait bientôt franchir la barre des deux milliards de dollars (1,85 milliard d'euros) de valorisation. Selon l’agence Bloomberg, la start-up française, spécialisée dans l’intelligence artificielle générative, prépare en effet une nouvelle levée de fonds auprès de prestigieux investisseurs.

Levée menée par Andreessen Horowitz

Profitant de l’euphorie autour de l’IA, Mistral pourrait ainsi recueillir 445 millions d'euros supplémentaires. La majorité de cette somme (325 millions) serait apportée en fonds propre, notamment par le prestigieux fonds américain Andreessen Horowitz, qui investirait à lui seul 200 millions d'euros. Le reste (120 millions) prendrait la forme d’obligations convertibles, souscrites par les géants américains Nvidia et Salesforce.

Dans le cadre de cette opération, les trois cofondateurs de Mistral auraient accepté de vendre pour un million d’euros de titres, explique par ailleurs Bloomberg. Même chose pour Cédric O, l’ancien secrétaire d’Etat au numérique, devenu conseiller de la start-up au printemps. Et qui œuvre notamment auprès du gouvernement pour limiter le champ d’application de la prochaine réglementation de l’IA en Europe.

En juin, un mois après sa création, Mistral avait déjà levé 105 millions d'euros, sur la base d’une valorisation de 240 millions. Du jamais vu en France pour une start-up en phase d’amorçage. Ces chiffres record s’expliquent en grande partie par les CV de ses fondateurs, trois anciens des très réputés DeepMind et FAIR, laboratoires respectifs de Google et de Facebook en IA.

Modèle open source

Début octobre, Mistral a lancé son premier grand modèle de langage. Un modèle de petite taille, en open source disponible gratuitement et sans restriction pour tous les développeurs. Ce choix est considéré comme le seul moyen de pouvoir "créer une alternative crédible à l’oligopole émergent de l’IA", composé de Google, d’OpenAI, soutenu financièrement par Microsoft, de Meta, la maison mère de Facebook, ou encore d’Anthropic, alliée avec Amazon, qui disposent de ressources bien plus considérables.

Baptisé Mistral 7B, ce modèle est composé de 7,3 milliards de paramètres, très loin des 1.800 milliards de paramètres que compterait GPT-4, la dernière version du grand modèle de langage d’OpenAI. Mistral assure qu’il est plus performant "sur tous les standards" que la version 13B de LLaMA 2, le dernier modèle de Meta, lui aussi (en partie) open source. Il ferait aussi mieux sur "beaucoup de standards" que la version 34B.

"Première étape"

En octobre, la start-up avait indiqué que quatre entreprises françaises avaient lancé des tests, par exemple, pour développer des applications de service clients. Elle promettait aussi qu’il ne s’agissait que d’une "première étape". D’autres modèles seront publiés "progressivement", permettant de "réduire l’écart de performance" avec les IA génératives fermées d’OpenAI ou Google.

À terme, Mistral souhaite offrir une gamme de produits spécialisés et adaptés à différentes utilisations, devant optimiser les coûts de fonctionnement – les petites IA demandent moins de puissance informatique pour générer du texte. La start-up va aussi devoir bâtir son offre commerciale : des services payants accompagnant ses modèles gratuits.

https://www.usine-digitale.fr/article/l ... e.N2201703

[Silenius]

Mistral Medium, uniquement accessible par API est tres bon et 7 fois moins cher que GPT-4 https://www.youtube.com/watch?v=S2aQpSflywA
ce modele est plus gros que Mixtral mixture of experts 8x7B (Mistral Small).
Dans le test, il peut dire combien de mots il y a dans sa reponse, peut-etre un hasard ?
Et selon la rumeur, GPT-4.5 bientôt annonce ?

[energy_isere]

Droits d'auteur et IA générative : le New York Times attaque en justice OpenAI et Microsoft
« Microsoft et OpenAI ont utilisé notre travail pour développer et commercialiser leurs produits d'intelligence artificielle générative sans avoir la permission du Times », a justifié une porte-parole du quotidien estimant qu'il s'agit donc d'une violation des droits d'auteur en termes de contenu et de travail journalistique.

latribune.fr 27 Déc 2023,

lire https://www.latribune.fr/technos-medias ... 86660.html

[energy_isere]

OpenAI a engrangé 1,6 milliard de dollars de revenus en 2023 grâce à ChatGPT Plus
2023 aura été l'année d'OpenAI. Et cela se répercute sur le chiffre d'affaires de la start-up, ce qui n'est pas toujours le cas. Grâce à son service ChatGPT Plus, elle aurait dépassé 1,6 milliard de dollars de revenus sur l'année. Et prévoit d'atteindre les 5 milliards en 2024.

Julien Bergounhoux 02 janvier 2024

OpenAI aura sans conteste été la start-up de l'année 2023. Elle a connu un succès fulgurant et a rythmé l'actualité de tout le secteur de la tech par ses annonces produits, ses partenariats, ou ses procès et autres déboires. Mais... Et les finances dans tout ça ?

Si l'entreprise est restée discrète sur le sujet, le média spécialisé The Information rapporte qu'elle a dépassé 1,6 milliard de dollars de revenus annuels. De quoi encourager les investisseurs, la pépite cherchant apparemment de nouveau à réunir des fonds, cette fois-ci pour une valorisation de 100 milliards de dollars.

ChatGPT Plus, un service plébiscité

Ce bond dans les rentrées d'argent est largement dû au service premium ChatGPT Plus, dont le succès aurait dépassé les attentes de la start-up. Reuters rapporte qu'elle prévoyait seulement 200 millions de dollars de revenus à l'origine. Le milliard de dollars aurait été dépassé en août. Par comparaison, l'entreprise aurait perdu 540 millions de dollars en 2022, avec des revenus de 28 millions de dollars. Son business model se limitait alors à fournir son service aux développeurs par le biais de ses API.

OpenAI va devoir faire face à une multitude de rivaux en 2024, dont notamment Google, Anthropic, Cohere, Mistral AI ou Meta. La plupart d'entre eux mènent aujourd'hui une course à l'armement pour produire des modèles à la fois plus performants, moins coûteux et plus légers. Malgré cela, la start-up anticipe une croissance forte, avec des prévisions de 5 milliards de dollars de revenus annuels.

https://www.usine-digitale.fr/article/g ... 3.N2205690

[tita]

Un petit bug sur ChatGPT qui répondait n'importe quoi, comme cette phrase:

"L'argent pour le bit et la liste est l'un des étrangers et l'internet où la monnaie et la personne du coût est l'un des amis et la monnaie. La prochaine fois que vous regarderez le système, l'échange et le fait, n'oubliez pas de donner"

https://www.rts.ch/info/sciences-tech/2 ... 12448.html

Et un rappel qu'un LLM n'a pas de conscience derrière.

[Troti]

Pas pire que certaines paroles de chanson, genre :
Nous et la man on est de sortie,
Pire qu'une simple moitié
On compte à demi-demi
Pile sur un des bas côtés
Comme des origamis
Le bras tendu parait cassé
Tout n'est qu'épis et éclis
Ces enfants bizarres
Crachés dehors comme par hasard
Cachant l'effort dans le griffoir
Une creepy song en étendard

[GillesH38]

Un petit bug sur ChatGPT qui répondait n'importe quoi, comme cette phrase:

"L'argent pour le bit et la liste est l'un des étrangers et l'internet où la monnaie et la personne du coût est l'un des amis et la monnaie. La prochaine fois que vous regarderez le système, l'échange et le fait, n'oubliez pas de donner"

https://www.rts.ch/info/sciences-tech/2 ... 12448.html

Et un rappel qu'un LLM n'a pas de conscience derrière.

A leurs débuts il y a un an, des interfaces comme ChatGPT ou ses rivales de Google et Microsoft avaient régulièrement tendance à "halluciner", c'est-à-dire à inventer des faits ou même simuler des émotions.

euh ben c'est toujours le cas

You
quelle est la longueur de la frontière entre l'Algérie et l'Egypte ?

ChatGPT
La frontière entre l'Algérie et l'Égypte est une frontière terrestre qui s'étend sur environ 1 115 kilomètres.

[Silenius]

Le generateur d'images de google Gemini a un probleme de diversité :

https://www.youtube.com/watch?v=Fr6Teh_ox-8

[tita]

Le generateur d'images de google Gemini a un probleme de diversité :

https://www.youtube.com/watch?v=Fr6Teh_ox-8

Une explication ici:

https://twitter.com/arikouts/status/1760773923388391476

Pourquoi y avait-il un problème? Ben les données d'entraînement faisaient que ça reproduisait les clichés qu'on connaît. Genre, housekeeper = femme mexicaine et avocat = homme blanc grisonnant. Le thread explique comment ils ont tenté de faire pour réduire ces clichés, assez maladroitement.

[GillesH38]

ça prouve encore une fois que les modèles d'IA n'ont pas de représentation de la réalité, mais d'une caricature simplifiée de réalité qu'on leur a présentée, avec laquelle ils interpolent comme ils peuvent, sans garantie de résultat. Des fois ça marche bien, des fois ça marche pas.

Après c'est à chacun de faire le choix de la confiance qu'il mettra dans leur production.