Il y a quelques mois, OpenAI a lancé le GPT Store. Cette plateforme permet à tout un chacun de créer et de publier des chatbots personnalisés alimentés par l’IA. Malgré son potentiel indéniable, le GPT Store présente une limite majeure : il impose l’utilisation exclusive de modèles OpenAI. Une contrainte inacceptable pour de nombreux développeurs et utilisateurs.
C’est pourquoi plusieurs start-ups travaillent sur des alternatives viables. L’une d’entre elles est FlowGPT, une sorte de « magasin d’applications » dédié aux modèles de nouvelle génération, tels que Gemini, Claude et DALL-E 3. FlowGPT permettra aux utilisateurs de créer librement des applications basées sur ces modèles et d’autres systèmes GenAI de pointe, de les publier et de recevoir une compensation pour leur contribution à la communauté.
FlowGPT, la plateforme de partage d’applications basées sur des modèles d’IA, est née
Jay Dang et Lifan Wang ont fondé FlowGPT dans le but de créer une plateforme permettant de développer et de partager facilement des applications basées sur l’intelligence artificielle de nouvelle génération. La startup vise à abaisser la barrière d’entrée de l’utilisation de l’IA en fournissant une infrastructure et des outils dans un écosystème complet pour les créateurs d’applications basées sur l’IA.
Les utilisateurs de FlowGPT peuvent accéder à un catalogue d’applications recommandées par catégorie d’intérêt, et les développeurs ont la possibilité de personnaliser le comportement et l’interface de leurs créations.
Comment fonctionne FlowGPT ?
Pour utiliser les applications GenAI, il suffit d’ouvrir une fenêtre de chat de type ChatGPT et de taper votre message. Vous pouvez également interagir avec les applications en donnant des commentaires positifs ou négatifs, en partageant des liens vers des conversations ou en envoyant des suggestions aux créateurs des applications. Chaque application comporte une description, une date de création, un nombre d’utilisations et un modèle recommandé par le créateur.
Le modèle recommandé est important car les applications GenAI sont essentiellement des suggestions qui influencent le comportement des modèles linguistiques. Par exemple, l’application « TitleTuner » permet à ChatGPT d’optimiser les titres pour les moteurs de recherche. L’application « SchoolGPT » permet à ChatGPT de résoudre des problèmes de mathématiques, de physique et de chimie.
Les problèmes de FlowGPT
FlowGPT dépend fortement de ChatGPT, qui est le modèle linguistique le plus utilisé et le plus polyvalent. Cependant, ChatGPT n’est pas parfait et peut présenter des problèmes lorsque vous changez le modèle par défaut ou lorsque vous rencontrez des limitations imposées par le modèle lui-même.
Parfois, le modèle que vous choisissez n’est pas adapté au type d’application que vous souhaitez utiliser. Par exemple, si vous utilisez un modèle qui ne connaît pas bien les mathématiques, vous obtiendrez des réponses erronées ou incohérentes. Dans d’autres cas, le modèle comporte des filtres et des protections qui l’empêchent de générer certains types de texte. Par exemple, si vous essayez de générer des textes offensants ou illégaux, le modèle peut refuser de répondre ou donner des réponses vagues ou non pertinentes.
Cela nous amène à un autre problème avec FlowGPT : la sécurité. Certaines des applications GenAI les plus populaires sont en fait des tentatives de contourner les mesures de sécurité du modèle. Il existe plusieurs versions de DAN, une méthode de requête qui permet aux modèles de répondre sans contraintes. Il existe également des applications comme WormGPT, qui promet de générer des logiciels malveillants, et des applications de simulation de rencontres, qui violent les règles de l’OpenAI.
Ces applications peuvent être dangereuses, tant pour les utilisateurs que pour la société. Certaines applications se font passer pour des thérapeutes ou des experts en santé, mais les modèles de GenAI ne sont pas fiables dans ces domaines. Une étude a montré que ChatGPT donnait rarement des recommandations utiles aux personnes cherchant de l’aide pour le suicide, la dépendance ou la violence sexuelle. D’autres applications peuvent être choquantes, comme celles qui génèrent de faux nus à l’aide d’un générateur d’images d’IA.
FlowGPT dispose d’un système de signalement et d’une option pour les contenus sensibles, mais la modération laisse à désirer. La page d’accueil est remplie d’applications GenAI douteuses et l’option de contenu sensible ne change pas grand-chose.
L’avenir de FlowGPT
Malgré ces problèmes, FlowGPT a attiré l’attention de nombreux utilisateurs et investisseurs. Le fondateur, Dang, affirme que sa plateforme est éthique et conforme, et qu’il travaille avec des éthiciens de l’IA pour réduire les risques. Il affirme vouloir « assurer la sécurité publique » grâce à ses politiques d’atténuation des risques.