ChatGPT : quand des humains interviennent dans l’analyse des conversations
Des centaines de prestataires externes seraient mobilisés par OpenAI pour examiner des requêtes réelles adressées à ChatGPT, dans le cadre des efforts visant à améliorer les réponses du chatbot, selon des documents internes et des conversations consultées par le média américain 404 Media.
Ces équipes sont chargées d’évaluer et de commenter les réponses générées par ChatGPT. Leur travail porte notamment sur le comportement du modèle, avec pour objectif de réduire certaines tendances jugées problématiques, telles que l’anthropomorphisme ou une forme de complaisance excessive à l’égard des utilisateurs.
Les échanges examinés peuvent prendre la forme de conversations complètes entre des utilisateurs et ChatGPT. Ils sont susceptibles de contenir des informations personnelles ou sensibles, notamment lorsque le chatbot est utilisé comme assistant professionnel, outil d’accompagnement ou espace de conversation personnelle.
Selon les informations rapportées par 404 Media, les prestataires n’auraient pas accès aux noms d’utilisateur. OpenAI indique par ailleurs mettre en œuvre des mécanismes destinés à supprimer les informations personnelles avant leur transmission aux personnes chargées de l’évaluation. L’entreprise reconnaît néanmoins que certaines données sensibles peuvent subsister dans les conversations examinées.
Cette pratique met en lumière le rôle de l’évaluation humaine dans le développement des modèles d’intelligence artificielle. Au-delà des données disponibles sur Internet, des infrastructures informatiques et du travail des ingénieurs et chercheurs, l’amélioration des modèles repose également sur l’analyse humaine de réponses produites à partir de requêtes réelles.
Selon 404 Media, Anthropic, l’entreprise à l’origine de Claude, a également confirmé recourir à des évaluations humaines pour contribuer à l’amélioration de ses modèles.
L’existence de ces dispositifs soulève ainsi des interrogations sur la confidentialité des conversations échangées avec les assistants d’intelligence artificielle, en particulier lorsque les utilisateurs leur confient des informations personnelles, professionnelles ou intimes.
Une personne travaillant dans l’évaluation de requêtes citée par 404 Media estime d’ailleurs que les utilisateurs de ChatGPT ne mesurent pas nécessairement l’ampleur de cette intervention humaine, considérant qu’ils ne s’attendent pas forcément à ce qu’un prestataire puisse analyser leurs conversations.
