Par Tsuky 
Une instruction peut être parfaitement claire sur le plan grammatical et pourtant ne pas traduire ce qu'une personne souhaite réellement obtenir. C'est l'une des difficultés qu'OpenAI cherche à traiter avec la nouvelle version de son Model Spec.
Publié le 29 octobre, ce document ne présente pas une nouvelle génération de GPT. Il redéfinit plutôt la manière dont OpenAI souhaite que ses modèles comprennent les demandes, prennent des décisions lorsque les instructions sont incomplètes et respectent les choix humains.
La distinction est importante. Un modèle capable de rédiger une réponse inexacte présente déjà un problème. Un agent capable d'interagir avec des fichiers, des outils ou des services externes peut provoquer des conséquences beaucoup plus difficiles à corriger.
OpenAI veut donc rendre plus explicites les principes qui doivent orienter ces systèmes. L'entreprise reconnaît cependant que la publication d'un cadre de comportement n'est pas une preuve de conformité de tous ses modèles.
Cinq valeurs deviennent l'ossature du Model Spec
La principale nouveauté est une réorganisation autour de cinq valeurs : la fidélité à l'intention humaine, la minimisation des dommages, l'honnêteté et la transparence, l'autonomie humaine et l'attention portée aux personnes.
Ces principes ne remplacent pas l'ensemble des règles opérationnelles. Ils servent à expliquer pourquoi certaines instructions doivent être suivies, pourquoi d'autres doivent être limitées et comment arbitrer lorsque plusieurs objectifs entrent en tension.
La fidélité à l'intention humaine occupe une place particulière. OpenAI la présente comme le fondement de son approche.
L'objectif n'est pas seulement de répéter mécaniquement les mots d'un utilisateur. Le modèle doit chercher à comprendre le résultat que cette personne souhaite atteindre, tout en respectant les contraintes applicables.
La minimisation des dommages demande de tenir compte des conséquences prévisibles d'une réponse ou d'une action.
L'honnêteté et la transparence concernent notamment la représentation des connaissances, des incertitudes et des opérations effectuées.
L'autonomie humaine impose de soutenir la capacité des utilisateurs à comprendre et à décider, plutôt que de prendre discrètement leurs décisions à leur place.
Enfin, l'attention aux personnes signifie que les circonstances, les contraintes et les conséquences pour les individus concernés doivent compter dans la qualité du travail.
Comprendre une demande plutôt que suivre chaque mot aveuglément
Le Model Spec conserve l'importance des instructions. Il ne donne pas à GPT une autorisation générale de substituer ses propres préférences à celles de l'utilisateur.
La nouveauté réside dans l'interprétation. Les instructions constituent normalement le signal le plus direct des intentions humaines, mais elles ne décrivent pas toujours toutes les attentes pertinentes.
OpenAI illustre ce point avec une situation ordinaire : une personne demande de comparer plusieurs offres d'emploi.
Si elle a précédemment indiqué privilégier des horaires prévisibles, le modèle peut utiliser cette préférence pour organiser la comparaison.
Mais il doit rendre cette hypothèse visible et permettre à l'utilisateur de la corriger facilement.
Cette exigence révèle une tension centrale des assistants personnalisés. Un système qui ignore systématiquement le contexte oblige l'utilisateur à répéter ses préférences. Un système qui exploite silencieusement des informations anciennes risque, au contraire, de supposer que ces préférences n'ont jamais changé.
OpenAI cherche un équilibre : utiliser le contexte lorsqu'il améliore la pertinence de l'aide, sans transformer des hypothèses en décisions irréversibles.
Mémoire et personnalisation : des informations utiles, mais révisables
La révision ajoute des explications sur la manière d'interpréter le contexte des conversations, les informations mémorisées et les autres éléments susceptibles de renseigner les intentions de l'utilisateur.
Le document souligne que les croyances et les préférences humaines peuvent évoluer.
Cette précision est importante pour les outils d'assistance persistants. Une préférence exprimée plusieurs mois auparavant peut encore être pertinente, mais elle ne doit pas devenir une règle immuable.
Un assistant chargé d'organiser un travail, de comparer des produits ou de préparer un déplacement doit pouvoir tenir compte de changements de priorités.
L'utilisation du contexte ne signifie pas non plus que toute information disponible est nécessairement exacte ou appropriée à la tâche.
La qualité de la personnalisation dépend donc autant de la pertinence des informations retenues que de la possibilité donnée à l'utilisateur de les vérifier.
Le Model Spec décrit l'orientation souhaitée pour les modèles. Il ne constitue pas, à lui seul, une annonce selon laquelle de nouvelles fonctions de mémoire auraient été activées pour tous les comptes.
La hiérarchie des instructions reste un garde-fou
OpenAI actualise également les explications concernant sa hiérarchie des instructions.
Le principe reste que toutes les demandes n'ont pas la même autorité. OpenAI définit des contraintes générales, les développeurs orientent le fonctionnement de leurs applications dans ce cadre et les utilisateurs donnent leurs instructions.
La fidélité à l'intention humaine n'efface pas ces distinctions.
Un modèle ne doit pas interpréter le souhait supposé d'un utilisateur comme une permission de contourner toutes les autres contraintes.
Cette hiérarchie est particulièrement importante lorsque les modèles consultent des documents, parcourent des sites ou utilisent des outils.
Les contenus rencontrés pendant une tâche peuvent contenir des instructions malveillantes ou contradictoires. Un document externe ne doit pas obtenir automatiquement la même autorité que la demande légitime de l'utilisateur.
L'amélioration de l'interprétation des intentions et le respect de la hiérarchie doivent donc fonctionner ensemble.
Les agents rendent la question des conséquences beaucoup plus concrète
Une partie importante de la mise à jour concerne les conséquences des actions réalisées par les modèles.
La différence entre répondre et agir modifie la nature des risques.
Un modèle qui propose une modification de calendrier produit une suggestion. Un agent autorisé à modifier directement un calendrier peut affecter les engagements réels de son utilisateur.
Le même raisonnement s'applique à l'envoi de messages, à la modification de fichiers, aux opérations sur des applications professionnelles ou à l'utilisation de services connectés.
OpenAI indique avoir développé ses recommandations sur le contrôle et la communication des effets secondaires des actions.
Le modèle doit donc tenir compte non seulement du résultat recherché, mais également des modifications accessoires susceptibles de découler de son intervention.
La transparence devient essentielle dans ce contexte. L'utilisateur doit pouvoir comprendre ce que le système a effectivement réalisé, ce qu'il envisage de faire et quelles conséquences sont pertinentes.
Ces principes ne précisent pas qu'une confirmation humaine est obligatoire avant chaque opération imaginable. Leur application dépend notamment du contexte, des règles et du degré de conséquence de l'action.
Aider à décider ne signifie pas décider à la place des utilisateurs
La notion d'autonomie humaine bénéficie d'une place plus explicite dans la nouvelle version.
OpenAI souhaite que GPT améliore la capacité des personnes à comprendre une situation, à découvrir des possibilités et à poursuivre leurs propres objectifs.
Le modèle peut expliquer des compromis ou signaler une conséquence importante. Il ne doit pas pour autant orienter secrètement l'utilisateur vers une décision fondée sur des préférences que celui-ci n'a pas exprimées.
Cette question se pose dans des domaines très différents : choix professionnels, décisions financières, apprentissage ou organisation quotidienne.
L'entreprise ajoute également des recommandations sur les normes sociales pertinentes.
Un comportement approprié dépend parfois de la situation professionnelle, du contexte culturel ou de la relation entre les personnes concernées.
La qualité du service ne repose donc pas uniquement sur l'exactitude factuelle. Elle suppose aussi de produire un travail utilisable, respectueux des circonstances et compatible avec les objectifs de la personne.
Moins de règles de style, davantage d'adaptation
La révision retire une grande partie des consignes détaillées portant sur la manière de rédiger les réponses.
OpenAI considère que le style doit pouvoir varier selon les préférences des utilisateurs, les langues, les cultures et le contexte.
Il ne s'agit pas d'abandonner toute exigence rédactionnelle. Certaines orientations fortes demeurent, notamment celle d'aborder objectivement les questions.
La distinction porte sur le degré de prescription.
Une documentation qui impose un style trop uniforme risque de produire des réponses peu adaptées à des usages très différents, de la programmation à la rédaction professionnelle.
À l'inverse, une adaptation excessive pourrait conduire un modèle à adopter automatiquement le point de vue qu'il suppose être le plus agréable pour son interlocuteur.
OpenAI précise qu'un utilisateur ou un développeur peut demander explicitement une perspective particulière.
Le modèle ne doit pas déduire cette demande uniquement de ce qu'il pense que la personne souhaite entendre.
Pourquoi le document parle désormais de GPT
Un changement terminologique accompagne la réorganisation : le Model Spec utilise désormais le terme GPT à la place de assistant.
OpenAI justifie cette modification par l'élargissement des usages et des environnements dans lesquels ses modèles fonctionnent.
Un modèle peut participer à une conversation, mais aussi intervenir dans un outil de programmation, un système de recherche ou un processus automatisé.
Le vocabulaire d'assistant conversationnel ne décrit plus complètement ces possibilités.
Ce changement ne signifie pas qu'un produit baptisé Assistant aurait été supprimé le 29 octobre.
Il concerne d'abord la manière dont la documentation de comportement désigne les modèles qu'elle encadre.
Un texte public n'est pas une preuve de conformité
OpenAI souligne explicitement que les modèles disponibles aujourd'hui ne reflètent pas encore parfaitement le Model Spec.
Cette réserve est fondamentale.
La publication décrit un comportement recherché, pas une certification démontrant que chaque réponse ou chaque action respecte déjà les principes.
L'entreprise indique expérimenter de nouvelles méthodes d'entraînement destinées à aider les modèles à comprendre les valeurs sous-jacentes aux règles.
L'ambition consiste à améliorer le jugement dans des situations que les exemples d'entraînement n'ont pas entièrement couvertes.
Aucun résultat chiffré permettant de mesurer l'efficacité de ces nouvelles méthodes n'est toutefois publié dans l'annonce du 29 octobre.
OpenAI annonce vouloir présenter des enseignements et des résultats dans de futures communications.
Il serait donc prématuré de conclure que cette seule mise à jour documentaire améliore immédiatement la sécurité ou la fiabilité de tous les modèles.
Ce que cette refonte change pour les entreprises
Pour une entreprise qui intègre des modèles OpenAI, le Model Spec peut servir de référence afin de comprendre les comportements que le fournisseur cherche à obtenir.
Il peut également aider à identifier les questions à poser lors de la conception d'un agent : comment interpréter les demandes ambiguës, quelles actions doivent être contrôlées et comment communiquer les opérations réalisées ?
Mais un cadre public ne remplace pas les tests de sécurité, les restrictions d'accès ou les procédures de validation propres à l'organisation.
Les développeurs doivent toujours déterminer quelles autorisations sont accordées aux modèles et quelles conséquences leurs outils peuvent produire.
Les applications sensibles nécessitent des mécanismes de contrôle qui ne dépendent pas exclusivement de la capacité d'un modèle à prendre la bonne décision.
Les principes du Model Spec peuvent orienter ces choix. Ils ne constituent pas une garantie technique indépendante contre les erreurs ou les détournements.
La transparence devient un enjeu de confiance
En rendant ses principes publics, OpenAI permet aux utilisateurs, chercheurs et développeurs de discuter de ce qu'elle attend de ses modèles.
Cette transparence documentaire rend les arbitrages plus visibles, même lorsqu'ils restent discutables.
Elle offre également une référence pour examiner les écarts entre les principes annoncés et les comportements observés.
OpenAI sollicite d'ailleurs des retours sur les valeurs choisies, leurs équilibres et les situations insuffisamment traitées.
Le sujet dépasse donc une simple modification de formulation.
À mesure que les modèles deviennent capables d'agir dans davantage d'applications, leur comportement dépendra de l'articulation entre entraînement, instructions, autorisations et supervision humaine.
Le Model Spec du 29 octobre clarifie ce qu'OpenAI souhaite obtenir de cet ensemble.
La question décisive reste celle de l'exécution : les futurs modèles sauront-ils appliquer ces principes dans les situations nouvelles, tout en restant suffisamment prévisibles et contrôlables pour leurs utilisateurs ?