Depuis que la société de recherche en IA OpenAI a publié ChatGPT en novembre 2022, on n'a plus parlé d'autre chose dans le domaine de la technologie. A cet égard, le géant du e-commerce (mais pas que) Amazon s'est montré attentif et a même averti les employés de ne pas interagir avec ChatGPT et de partager des informations confidentielles.
Amazon interdit à ses employés de partager des informations confidentielles avec ChatGPT
Le canal Slack interne d'Amazon avait reçu de nombreuses questions d'employés sur l'utilisation de ChatGPT. Certains employés ont demandé à Amazon s'il existait des directives officielles pour l'utilisation de ChatGPT sur les appareils professionnels. D'autres se sont demandé s'ils étaient autorisés à travailler avec des outils d'IA. Un employé exhorte la division de cloud computing d'Amazon, AWS, à clarifier sa position sur l'utilisation des "outils d'intelligence artificielle générative (AIGC)".
Après poco, un avocat d'entreprise d'Amazon s'est joint à la discussion. Des captures d'écran des communications internes de la chaîne Slack montrent l'avocat avertissant les employés de ne donner à ChatGPT "aucune information confidentielle d'Amazon", y compris le code Amazon en cours d'écriture. Il a également conseillé aux employés de suivre la politique de non-divulgation existante de l'entreprise, car certaines des réponses de ChatGPT semblaient très similaires à celles produites par Amazon en interne.
"Ceci est essentiel car votre entrée peut être utilisée comme données de formation pour ChatGPT et nous ne voulons pas que sa sortie contienne ou ressemble à nos informations confidentielles", a écrit l'avocat.
Ces échanges suggèrent que l'émergence soudaine de ChatGPT a soulevé de nombreuses nouvelles questions éthiques. ChatGPT est un outil d'IA conversationnel qui répond aux questions avec des réponses plus claires et plus intelligentes. La prolifération rapide de ChatGPT a le potentiel de perturber plusieurs secteurs, notamment les médias, le milieu universitaire et la santé, ce qui incite à rechercher de nouveaux cas d'utilisation des chatbots et leur impact possible.
La façon dont les employés partagent des informations sensibles avec ChatGPT et ce que son développeur, OpenAI, en fait pourrait devenir un problème épineux. Ceci est particulièrement important pour Amazon, puisque son grand rival Microsoft a investi massivement dans OpenAI, y compris un nouveau cycle de financement cette semaine qui aurait une valeur de 10 milliards de dollars.
Emily Bender, qui enseigne la linguistique informatique à l'Université de Washington, a déclaré : « OpenAI est loin d'être transparent sur la façon dont il utilise les données, mais si les données sont utilisées pour la formation, je m'attends à ce que les entreprises réfléchissent : après plusieurs mois d'utilisation généralisée de ChatGPT , est-il possible d'obtenir des informations confidentielles d'une entreprise privée par le biais de demandes soigneusement élaborées ? »
Amazon dispose d'un certain nombre de protections internes pour les employés utilisant ChatGPT. Par exemple, des captures d'écran de l'échange montrent que lorsque les employés utilisent des appareils de travail pour accéder au site Web ChatGPT, un message d'avertissement apparaît indiquant qu'ils sont sur le point d'accéder à un service tiers qui "peut ne pas être approuvé pour une utilisation par Amazon Security".
Les employés qui ont participé au chat du canal Slack ont déclaré qu'ils pouvaient rejeter le message en cliquant simplement sur l'onglet "Reconnaître". Le personnel a émis l'hypothèse que la fenêtre d'avertissement visait à empêcher les employés de coller des informations sensibles sur ChatGPT, d'autant plus qu'ils n'avaient pas vu la politique de l'entreprise en matière d'utilisation interne.
Cependant, certains employés d'Amazon utilisent déjà des outils d'IA comme "assistants de codage" logiciels pour aider à améliorer les lignes de code internes. "Je pense que ce serait formidable d'avoir cette fonctionnalité prête à l'emploi dès maintenant. Donc, n'importe quel guide serait formidable », a écrit un employé d'Amazon sur une chaîne Slack.
Un autre employé a déclaré avoir partagé des questions d'entretien avec Amazon pour un poste de programmation ouvert sur ChatGPT. Selon le message Slack de l'employé, le modèle d'IA a fourni les bonnes solutions à de nombreux problèmes techniques. "Je suis à la fois inquiet et ravi de voir quel impact cela aura sur la façon dont nous menons les entretiens de codage", a-t-il déclaré.
Dans l'ensemble, les employés d'Amazon participant aux chats du canal Slack étaient enthousiasmés par le potentiel de ChatGPT et se demandaient si Amazon développait un produit concurrent. L'avocat de l'entreprise qui a mis en garde les employés contre l'utilisation de ChatGPT a déclaré qu'Amazon accélérait le développement de "technologies similaires", citant l'assistant vocal Alexa et le service de recommandation de code CodeWhisperer comme exemples.
Un employé d'AWS a écrit que l'équipe d'assistance de l'entreprise a récemment formé une petite équipe interne pour "comprendre l'impact de l'IA de chat avancée sur notre entreprise". Les recherches montrent que ChatGPT est "très bon" pour répondre aux questions d'assistance AWS, y compris le dépannage de la base de données Aurora, entre autres. Dans le même temps, il est également excellent dans la création de supports de formation pour l'examen AWS Certified Cloud Architect, répondant aux objectifs commerciaux du client.
L'utilisation croissante de ChatGPT au travail soulève de sérieuses questions sur la manière dont OpenAI prévoit d'utiliser le matériel partagé avec les outils d'IA, a déclaré Bender de l'UW.
En offre sur Amazon
