Promptfoo is joining OpenAI
- Auteurs
- Ian Webster, Promptfoo
- Thème
- IA
- Mots-clés
- Promptfoo, OpenAI, acquisition, AI evaluation, red teaming
- Ton
- news
Résumé
Promptfoo, l'outil open source de red teaming et d'évaluation IA utilisé par 350 000 développeurs et plus de 25 % du Fortune 500, est acquis par OpenAI. L'outil restera open source et continuera à supporter tous les fournisseurs de modèles. L'intégration se fera au niveau des couches modèle et infrastructure d'OpenAI pour permettre de détecter les vulnérabilités plus tôt dans le cycle de développement.
💡 Pourquoi ça compte
Cette acquisition concentre la norme d'évaluation de l'IA entre les mains d'un acteur majeur. Même si Promptfoo reste open source, l'intégration profonde avec OpenAI soulève des questions sur la neutralité des outils d'évaluation dans un écosystème de plus en plus consolidé.
Analyse approfondie
Aujourd'hui, nous annonçons que Promptfoo a accepté d'être acquis par OpenAI.
Promptfoo restera open source et nous continuerons à servir les utilisateurs et les clients.
Nous avons fondé Promptfoo en 2024 pour permettre aux développeurs de tester systématiquement leurs applications IA. Nous avons rapidement réalisé que les tests adversariaux pour la sécurité, la safety et d'autres risques comportementaux étaient les plus grands bloqueurs pour livrer de l'IA, en particulier dans les grandes entreprises.
Ce que nous avons construit a grandi plus vite que nous n'aurions jamais pu l'imaginer. Plus de 350 000 développeurs l'ont utilisé, 130 000 sont actifs chaque mois, et des équipes dans plus de 25 % du Fortune 500 s'en servent.
Nous rejoignons OpenAI afin que la plateforme de sécurité, d'évaluation et de conformité que nous avons construite — et l'expérience de terrain qui l'accompagne — puisse avoir le plus grand impact sur la façon dont les équipes construisent et déploient l'IA. Chez OpenAI, nous améliorerons et intégrerons la technologie de base de Promptfoo dans les couches modèle et infrastructure, afin que les équipes puissent détecter les vulnérabilités tôt et livrer de l'IA sécurisée dès le départ.
Ce que cela signifie pour les utilisateurs de Promptfoo
OpenAI donne à notre travail plus de ressources et un accès à la recherche au niveau des couches modèle et inférence qui accélèrent notre objectif d'aider chacun à livrer une IA sécurisée et fiable. C'est le chemin le plus rapide et le plus impactant pour le travail que nous avons commencé chez Promptfoo.
L'équipe continuera à travailler avec les clients et utilisateurs pour assurer la continuité du service et du support.
Nous continuerons à maintenir la suite open source comme un outil de red teaming, de scan statique et d'évaluation de premier plan pour tout modèle ou application IA. Promptfoo continuera à supporter une gamme diversifiée de fournisseurs et de modèles, reflétant la façon dont les vraies équipes construisent et déploient des systèmes IA.
Remerciements
Nous avons tellement de gratitude envers nos investisseurs : Ganesh chez Insight Partners, Zane chez a16z, leurs équipes, et tous les business angels qui nous ont soutenus. Vous nous avez aidés à faire grandir Promptfoo plus vite que nous ne l'aurions jamais cru possible.
Nous sommes reconnaissants envers notre équipe : nous avons grandi rapidement jusqu'à 23 personnes en ingénierie, GTM et opérations — le groupe le plus talentueux et travailleur que nous ayons jamais rencontré.
Enfin, merci à tous ceux qui ont contribué du code, signalé des issues, utilisent le produit ou font confiance à Promptfoo en production.
Vous avez aidé à construire quelque chose d'important. Nous sommes enthousiastes de poursuivre ce travail.
Ian Webster