Un outil d'IA open-source audite la recherche en longévité pour éliminer les hallucinations

Le domaine de la longévité est submergé par les données. Les recherches sur les sénolytiques, la restauration du NAD+, la modulation du mTOR, les peptides et la science des biomarqueurs progressent plus vite que les processus traditionnels d'examen des preuves ne peuvent le gérer. Forever Healthy, une organisation à but non lucratif axée sur la longévité, a répondu à ce défi avec AI4L — un cadre open source conçu pour rendre la synthèse des preuves générée par l'IA véritablement fiable, plutôt que simplement rapide.

L'innovation centrale est ce que l'équipe appelle l'Audit-Driven Prompting. Plutôt qu'un seul modèle d'IA génère une revue et la publie, AI4L répartit la tâche entre deux agents strictement isolés. Un agent rédige la revue ; un agent entièrement distinct — sans accès à l'historique de raisonnement du premier — joue le rôle d'auditeur. Cette séparation est intentionnelle : elle empêche les boucles logiques auto-confirmatives qui poussent les systèmes d'IA à halluciner des citations ou à répéter des erreurs avec assurance. L'auditeur récupère activement des URLs en direct et vérifie les citations par rapport aux sources réelles.

Les revues passent par des cycles de création, d'audit et de correction jusqu'à ce qu'elles satisfassent un cadre d'assurance qualité de plus de 390 points, couvrant la structure, la qualité des preuves, l'exhaustivité et l'exactitude des citations. Le seuil de validation est fixé à 100 %. Sur le plan architectural, le système est agnostique aux modèles et léger, fonctionnant dans des interfaces standard comme Claude Desktop ou via ligne de commande pour des flux de travail automatisés.

Les implications pratiques pour les lecteurs soucieux de leur santé et pour les cliniciens sont significatives. Les résumés de santé générés par l'IA sont devenus omniprésents, mais les références hallucinées et les extrapolations mécanistes abusives constituent des problèmes récurrents. AI4L recadre le processus : plutôt que l'IA rédige un article, l'IA est soumise à un examen répété de type révision par les pairs jusqu'à ce qu'elle survive à l'audit. Cette distinction est d'une importance capitale dans un domaine où une information erronée peut influencer de véritables décisions en matière de compléments, de pratique clinique ou de mode de vie.

Des mises en garde subsistent. Le système vient d'être lancé et n'a pas encore été validé de manière indépendante par des chercheurs tiers. Sa qualité dépend des modèles d'IA de pointe qu'il utilise, lesquels présentent eux-mêmes des limites connues. La question de savoir si le cadre d'assurance qualité de 390 points permet de détecter toutes les erreurs significatives dans la science complexe de la longévité reste à tester à grande échelle.