Ce qu'Adam Smith dirait du GPT Store 👨🏼🦳, le réarmement version OpenAI 🔫, et un prompt politique 🏛️
The Tunnel 2k24#2
🥁🥁 Bienvenue dans votre deuxième tunnel de l’année.
Au programme du jour:
📱 Le GPT Store ou la division de l’Intelligence Artificielle ?
📢 Un prompt pour prévoir les éléments de langages politiques de la semaine.
L’édito
La division de l’Intelligence Artificielle
Pour les personnes qui n’ont pas vu passer l’info, il faut d’abord qu’on parle très rapidement du GPT Store.
Annoncé dès le mois de novembre par Sam Altman, et disponible depuis la semaine dernière, le GPT Store, c’est comme l’App Store de votre iPhone (ou le Play Store si vous avez un Android), mais version chatGPT.
Qu’est-ce que ça veut dire exactement? 🧐
Avec le GPT Store, vous pouvez accéder à des versions de ChatGPT qui sauront vous aider sur des tâches très spécifiques.
Selon moi, le GPT Store n’a rien d’anecdotique car il ouvre la voie à une version IA de la “division du travail” dont parle le célèbre économiste Adam Smith dans Richesses des Nations. Et ce, d’un point de vue technique, comme économique.
L’aspect technique : Connection entre données internes et IA
L’aspect le plus prometteur des GPTs est le suivant selon moi : Chaque entreprise du monde peut connecter son API interne à un GPT spécialisé. C’est-à-dire que chaque entreprise du monde peut connecter facilement chatGPT avec ses propres données et son propre code. C’est exactement ce qu’a fait Canva, par exemple, en sortant la première version de son GPT.
Selon la question qui lui est posée, le GPT peut appeler l’API interne de Canva pour y sélectionner un template qu’il utilisera dans sa réponse.
Imaginez le nombre d’organisations qui pourraient faire la même chose :
💹 Un GPT développé par Bloomberg, capable de récupérer toutes les infos de Bloomberg en temps réel pour vous aider à réaliser le meilleur investissement en bourse
🛒 Un GPT développé par Shopify, capable de récupérer via son API interne l’ensemble des ventes réalisées pour des produits similaires aux vôtres, et qui, via son API encore, créerait une nouvelle page de vente, plus efficace, pour votre produit.
📝 Un GPT développé par le site impots.gouv qui pourrait échanger avec vous, avant d’utiliser une API interne pour remplir automatiquement votre feuille d’impôt en ligne.
Je limite le nombre d’exemples, mais l’idée est toujours la même : Le GPT Store permettra très facilement à chaque entreprise de connecter ses données internes aux modèles d’OpenAI, pour créer un GPT très spécialisé.
L’aspect économique : l’IA, épingle du XXIème siècle
Ainsi, de même qu’Adam Smith, considéré comme l’un des pères spirituels du libéralisme économique, parlait de la division du travail comme d’un catalyseur de productivité, on peut aujourd’hui penser que le GPT Store ouvre la voie à une meilleure division de l’IA et donc vers l’explosion de l’efficacité des usages que l’on peut en faire.
Adam Smith prenait l’exemple de la production des épingles pour montrer qu’en divisant le travail, on obtenait une plus grande productivité. C’est tout à fait applicable pour l’IA.
Certains vont se spécialiser pour trouver de nouveaux modèles, d’autres pour les paramétrer à un cas d’usage précis, ou encore pour distiller des gros modèles (👀 spoiler vers la section “le papier de recherche de la semaine” 👀)
Demain on pourra poser une question à un chatbot qui aura comme seule tâche de décomposer notre question en sous-questions à poser à des GPTs spécialisés pour y répondre. L’interface humain/IA ne changera pas, mais la qualité des réponses augmentera significativement grâce à la division des tâches.
Bref, la sortie du GPT Store est loin d’être anecdotique et Adam Smith serait fier de Sam Altman 😎
Les actualités à ne pas manquer
🧪 L’IA pour sauver des vies ? Des chercheurs pourraient anéantir les staphylocoques dorés grâce à l’IA. A l’instar de ce qu’avait fait Google Deepmind avec GnOME, une équipe de chercheurs du MIT a utilisé l’IA pour trouver des associations potentielles de molécules susceptibles de conduire à la création de médicaments capables de tuer les microbes sans être toxiques pour l’homme. Ce type d’initiative devrait se reproduire et être la cause d’innombrables avancées dans le domaine de la santé.
🪖 L’IA pour enlever des vies ? Sans faire d’annonce officielle, OpenAI a modifié ses conditions générales d’utilisation le 10 janvier 2024 pour y supprimer l’interdiction d’utiliser ses produits à des fins militaires. Le terme “militaire” a disparu et OpenAI le remplace par l’interdiction de faire du mal à autrui, ce qui est bien plus large… En général une telle modification de ses conditions générales est nécessaire avant la signature d’un nouveau partenariat. Alors Emmanuel Macron va-t-il s’aider de ChatGPT pour “réarmer la France”?
💻 Un investisseur qui fait de la concurrence. Microsoft annonce la sortie de Copilot Pro, une version payante de son Copilot pour 20$/mois. Cela peut surprendre de voir Microsoft concurrencer OpenAI dont il est le principal investisseur. Mais en réalité, Microsoft utilise les recherches (et donc les modèles) d’OpenAI et c’est l’utilisation finale par l’utilisateur qui change. Copilot est plus qu’un simple chatbot, il peut s’intégrer à toute la suite Office 365 (Excel, PowerPoint, Outlook, Word, etc.).
La Success Story de la semaine
Même votre chien va se mettre à l’IA 🐶
L’intelligence Artificielle c’est vraiment pour tout le monde ! Parmi les innovations primées par le CES (l’un des plus grands salons mondiaux de technologie) la semaine dernière, l’une d’entre elles m’a particulièrement amusé. Il s’agit du collier connecté Minitailz de la société Invoxia. Oui, un collier connecté pour votre chien.
Grâce à une “technologie brevetée combinant hardware de pointe, fusion de capteurs et algorithmes d'intelligence artificielle”, ce collier connecté permet non seulement de suivre l'activité physique du chien et de le retrouver s'il se perd, mais aussi de déclencher, grâce à l'IA, des alertes en cas de fugue ou de maladie, entre autres.
C’est un cas d’usage assez intéressant, car, comme très bien expliqué par l’entreprise, c’est le mix entre du hardware de pointe (le collier) et les algorithmes les plus récents, qui ouvre la voie à une nouvelle génération d’applications déjà existantes. Les colliers pour chiens connectés existent depuis longtemps. Vont-ils devenir une norme avec l’IA ?
Bref il y a certainement des révolutions apportées par l’IA qu’on retiendra un peu plus, mais à 149$ le collier IA, et vu le gigantesque marché potentiel, les actionnaires d’Invoxia gagneront sûrement nettement plus d’argent que les chercheurs du MIT qui s’acharnent à tuer le staphylocoque doré… Mais sauveront un peu moins de vies 😉.
Le prompt de la semaine
Hier soir, le président Emmanuel Macron donnait une conférence de presse pour détailler les contours de son grand rendez-vous avec les Français 🇫🇷.
Je me suis amusé à attribuer à ChatGPT le rôle d'un “spécialiste en communication politique habitué aux slogans populaires”, et je lui ai demandé de générer des slogans que les députés de LFI, du RN et les membres du gouvernement pourraient utiliser pour commenter le discours.
Voici le prompt, et, le meilleur slogan ainsi créé pour chaque parti :
Tu es un spécialiste en communication politique habitué aux slogans populaires. Donne-moi les 3 slogans que les députés {LFI/RN/membres du gouvernement} doivent prononcer sur les plateaux de télé pour {discréditer le /donner du crédit au} président de la République Emmanuel Macron après sa conférence de presse dont voici le résumé : {texte contenu ici}
Les résultats sont les suivants :
LFI : “Sous le masque du progrès, le mépris de classe!”
Gouvernement : “Travail et Mérite: Récompenser l'Effort, Renforcer la Nation”
RN : “Élites déconnectées, peuple négligé!”
C’est assez intéressant car ChatGPT fait mouche pour le slogan de La France Insoumise. J’ai pu vérifier le terme mépris (parfois dans sa forme “mépris de classe”) a été utilisé plusieurs fois à propos d’Amélie Oudéa-Castéra ces derniers jours (comme ici ou là par exemple).
En revanche pour le gouvernement ou le Rassemblement National les slogans imaginés par l’IA sont un peu stéréotypés et on n’en trouve pas trace dans les éléments de langage des uns et des autres. J’y vois 3 explications possibles :
La France Insoumise utilise chatGPT pour définir ses éléments de langages
ChatGPT a une sensibilité de gauche qui lui permet plus facilement de parler comme un.e député.e LFI que comme un.e député.e RN
La politique du gouvernement n’est critiquable qu’en adoptant une posture de gauche.
Je vous laisse choisir parmi les 3 😉.
Le papier de recherche de la semaine
Towards the Law of Capacity Gap in Distilling Language Models
👉 Disponible dans son intégralité ici.
J’en parlais la semaine dernière, l’un des enjeux le plus critiques concernant l’Intelligence Artificielle est la taille des modèles. Par taille, on entend le nombre de paramètres (plus il y a de paramètres, plus un modèle sera lourd à stocker).
Puisque de plus en plus d’entreprises cherchent à rendre l’usage de l’Intelligence Artificielle possible sur l’environnement d’un téléphone, de plus en plus de chercheurs essayent de trouver des modèles aussi performants que ceux existants mais beaucoup plus petits.
On parle de “distillation de modèle” 🧪 : on prend un modèle existant (dit modèle “teacher”) et on lui supprime certains paramètres superflus pour le rendre plus petit (on dit qu’on le transforme en modèle “student”). .
Problème : Moins un modèle a de paramètres, moins il a de connaissance.
Ce papier propose une approche pragmatique du problème. Constatant qu’il est impossible de conserver la performance d’un modèle si on réduit sa taille, les chercheurs ont plutôt cherché à trouver une loi pour déterminer à partir de quelle taille un petit modèle peut être quasi aussi efficace qu’un gros modèle. L’idée serait de trouver une loi de Pareto pour la taille des modèles.
Surprise : les chercheurs se sont rendus compte que le nombres de paramètres optimal pour le modèle “student” dépendait du nombre de paramètres du modèle “teacher”. Et qu’une formule mathématique permettait d’estimer le nombre de paramètres minimum nécessaires pour capter 80% des connaissances d’un modèle lourd.
Voilà potentiellement un papier qui va encore accélérer la miniaturisation des modèles !
The Tunnel 2k24#2, c’est déjà fini !
J’espère que ce fut pour vous aussi un excellent tunnel. N’hésitez pas à me dire ce que vous en avez pensé, et, as usual, si vous connaissez des personnes qui pourraient avoir envie de :
Rester toujours à jour dans le domaine de l’IA
Commencer à utiliser l’IA dans leur vie quotidienne
Chercher des inspirations pour leur business
Alors n’hésitez plus et partagez leur The Tunnel ❤️