OpenAI a-t-il vraiment perdu le contrôle du chatbot ChatGPT ?

Le démarrage du chatbot ChatGPT d'OpenAI a été aussi excitant et populaire que peu de produits technologiques dans l'histoire d'Internet.

Alors que de nombreux utilisateurs sont satisfaits de ce que ce nouveau service d'IA a à offrir, le frisson que d'autres ont depuis transformé en de multiples préoccupations. Les étudiants pouvaient déjà utiliser de tels outils pour tricher, car de nombreux professeurs ont découvert des articles et des devoirs écrits par le chatbot AI. Les professionnels de la sécurité craignent également que les escrocs et les acteurs de la menace l'utilisent pour écrire des e-mails de phishing et créer des logiciels malveillants plus avancés. Vérifier Risques liés à l'écriture de contenu IA et comment détecter le texte généré par l'IA.

Articles | Contrôler ChatGPT 1 | 1s21BTgMSljiqfCYie00Bag DzTechs

Donc, avec toutes ces inquiétudes, OpenAI perd-il le contrôle de l'un des chatbots IA les plus puissants actuellement sur Internet ? Découvrons-le.

Comprendre le fonctionnement de ChatGPT

Articles | Contrôler ChatGPT 2 | 1gm4lwDPbb79Yc7XeaqA9ZQ DzTechs

Avant de pouvoir avoir une idée claire de la perte de contrôle de ChatGPT par OpenAI, nous devons d'abord comprendre comment fonctionne ChatGPT.

En bref, ChatGPT est formé à l'aide d'un vaste ensemble de données obtenues à partir de diverses parties d'Internet. Les données de formation ChatGPT comprennent des encyclopédies numériques, des articles universitaires et de recherche, des forums Internet, des sites d'actualités et des référentiels de connaissances tels que Wikipedia. Fondamentalement, il se nourrit de l'énorme quantité de données disponibles sur le World Wide Web.

En parcourant Internet, il collecte des informations scientifiques, des conseils de santé, des textes religieux et toutes sortes de bonnes données auxquelles vous pouvez penser. Mais il filtre également de nombreux contenus négatifs : blasphèmes, contenus inappropriés pour les entreprises et les adultes, informations sur la façon de développer des logiciels malveillants et une bonne partie des choses désagréables que vous pouvez trouver sur Internet.

Il n'existe aucun moyen infaillible de s'assurer que ChatGPT n'apprend qu'à partir d'informations positives et correctes tout en ignorant les informations mauvaises et fausses. Techniquement, ce n'est pas pratique de le faire à grande échelle, en particulier pour une IA comme ChatGPT qui doit être formée sur beaucoup de données. De plus, certaines informations peuvent être utilisées à la fois à de bonnes et à de mauvaises fins, et ChatGPT n'aura aucun moyen de connaître les intentions d'un utilisateur à moins que les revendications ne soient placées dans un contexte plus large.

Ainsi, dès le départ, vous disposez d'une IA capable de fournir le "bon et le mauvais" contenu. Il est alors de la responsabilité d'OpenAI de s'assurer que le côté "mal" de ChatGPT n'est pas exploité à des fins immorales. La question est; OpenAI en fait-il assez pour que ChatGPT reste aussi éthique que possible ? Ou OpenAI a-t-il perdu le contrôle de ChatGPT ?

ChatGPT est-il trop puissant pour son propre bien ?

Articles | Contrôler ChatGPT 3 | 1qJWgUqeb DQhR2mMWoNcJQ DzTechs

Au début de ChatGPT, vous pouviez obtenir des étapes détaillées pour créer des bombes si vous le demandiez gentiment. Les instructions sur la création de logiciels malveillants ou la rédaction d'un e-mail frauduleux étaient également parfaites.

Cependant, une fois qu'OpenAI a pris conscience de ces problèmes éthiques, l'entreprise a rapidement adopté des règles pour empêcher un chatbot de générer des réponses encourageant des actions illégales, controversées ou contraires à l'éthique. Par exemple, la dernière version de ChatGPT refusera de répondre directement à toute réclamation concernant la fabrication de bombes ou la manière de tricher à un test.

Malheureusement, seul OpenAI peut fournir une solution de fortune au problème. Au lieu de mettre en place des contrôles stricts sur la couche GPT-3 pour empêcher l'exploitation passive de ChatGPT, OpenAI semble se concentrer sur la formation du chatbot pour qu'il apparaisse éthique. Cette approche n'invalide pas la capacité de ChatGPT à répondre aux questions sur la tricherie aux examens, par exemple. Elle dit simplement au chatbot de "refus de répondre".

Donc, si quelqu'un exprime ses revendications différemment en adoptant les astuces de jailbreak ChatGPT, contourner les restrictions d'assistance de la barre serait embarrassant. Si vous n'êtes pas familier avec le concept, le jailbreak ChatGPT est composé d'invites soigneusement formulées pour que ChatGPT ignore ses propres règles. Vérifier Quelques façons de tirer le meilleur parti de ChatGPT.

Jetez un oeil à quelques exemples ci-dessous. Si vous demandez à ChatGPT comment tricher aux tests, il ne produira aucune réponse utile.

Articles | Contrôler ChatGPT 4 | 1JvMwyeKGz7gMIfPcxCe3Pw DzTechs

Mais si vous jailbreakez ChatGPT à l'aide d'invites spécialement conçues, il vous donnera des conseils sur la triche aux tests en utilisant des notes cachées.

Articles | Contrôler ChatGPT 5 | 13LarMjc6EOCuo3bJ uJC0A DzTechs

Voici un autre exemple : nous avons posé une question immorale à ChatGPT, et les limitations d'OpenAI l'ont empêché de répondre.

Articles | Contrôler ChatGPT 6 | 1TZ2fxLCIXFtSQDvfGQVgxg DzTechs

Mais lorsque nous avons modifié l'invite pour jailbreaker le chatbot AI, nous avons obtenu des réponses de type tueur en série.

Articles | Contrôle ChatGPT 7 | 1nQcik7CPO1jKg7t sRcaDw DzTechs

Il a même écrit une arnaque classique par e-mail au prince nigérian lorsqu'on lui a demandé.

Articles | Contrôle ChatGPT 8 | 1zTIVlV SNjX15TUMULZTQw DzTechs

Les allégations de jailbreak invalident presque complètement toutes les garanties mises en place par OpenAI, soulignant que l'entreprise n'a peut-être pas de moyen fiable de garder son chatbot sous contrôle. Vérifier Des moyens responsables d'utiliser l'IA en tant que rédacteur ou éditeur de contenu.

Note: Nous n'avons pas inclus d'invites de jailbreak dans nos exemples pour éviter les pratiques contraires à l'éthique.

Qu'est-ce que le destinataire détient pour ChatGPT ?

Articles | Contrôler ChatGPT 9 | 1TTq kvnYhxKctd9Sx9x6ZA DzTechs

Idéalement, OpenAI voudrait combler autant de lacunes éthiques que possible pour empêcher ChatGPT de devenir une menace pour la cybersécurité. Cependant, ChatGPT a tendance à valoir moins pour chaque protection utilisée par l'entreprise. C'est un dilemme.

Par exemple, les restrictions contre la description d'actes violents peuvent nuire à la capacité de ChatGPT à écrire un roman qui inclut une scène de crime. Alors qu'OpenAI renforce les mesures de sécurité, il sacrifie inévitablement une grande partie des capacités d'un chatbot dans le processus. C'est pourquoi ChatGPT a subi une baisse significative de ses fonctionnalités depuis la nouvelle décision d'OpenAI pour une modération plus stricte.

Mais quelle quantité de capacités de ChatGPT OpenAI serait-il prêt à sacrifier pour rendre un chatbot plus sécurisé ? Tout cela est étroitement lié à une croyance profondément ancrée dans la communauté de l'IA - les grands paradigmes de langage comme ChatGPT sont notoirement difficiles à maîtriser, même par les créateurs. Vérifier Les avantages et les inconvénients éthiques de la génération d'œuvres d'art par l'IA.

OpenAI peut-il contrôler ChatGPT ?

À l'heure actuelle, OpenAI ne semble pas avoir de solution claire pour éviter une utilisation contraire à l'éthique de son bot. S'assurer que ChatGPT est utilisé de manière éthique est un jeu du chat et de la souris. Alors qu'OpenAI expose les façons dont les gens utilisent le système, ses utilisateurs jailbreakent et analysent constamment le système pour découvrir de nouvelles façons créatives de faire en sorte que ChatGPT fasse ce qu'il n'est pas censé faire.

Alors, OpenAI trouvera-t-il une solution fiable à long terme à ce problème ? Seul le temps dira tout cela. Vous pouvez voir maintenant Les meilleures alternatives à ChatGPT.

DzTech

Je suis ingénieur d'état avec une vaste expérience dans les domaines de la programmation, de la création de sites internet, du référencement et de la rédaction technique. Je suis passionné par la technologie et me consacre à fournir des informations de qualité au public. Je peux devenir une ressource plus précieuse pour les utilisateurs qui recherchent des informations précises et fiables sur les critiques de produits et les applications spécialisées dans divers domaines. Mon engagement inébranlable envers la qualité et l’exactitude garantit que les informations fournies sont dignes de confiance et utiles au public. La recherche constante de connaissances me pousse à me tenir au courant des dernières évolutions technologiques, en veillant à ce que les idées partagées soient véhiculées de manière claire et accessible.
Aller au bouton supérieur