Choses à éviter de demander aux chatbots IA

À moins que vous ne viviez loin de la civilisation, il y a de fortes chances que vous ayez entendu parler et même utilisé ChatGPT ou un chatbot AI similaire. Bien que l'utilisation de ces chatbots soit certainement amusante et facilite l'accès aux informations, elle peut également être dangereuse si vous ne savez pas ce que vous faites.

Les chatbots IA ont certaines limites, et il est important que vous compreniez ce qu'ils impliquent. Voici donc quelques éléments à éviter lorsque vous posez une question à un chatbot IA. Vérifier La plupart des chatbots basés sur l'IA pour parler et s'amuser.

Articles | Chatbots 1 | 1qlWIfo2w6Jy nxSrgDwHBg DzTechs

1. Diagnostic médical

Les chatbots IA sont bons dans beaucoup de domaines, mais fournir des diagnostics médicaux précis n'en fait pas partie. Bien sûr, vous ne vous trompez peut-être pas tout le temps, mais faire confiance à un chatbot pour diagnostiquer votre maladie au lieu d'un médecin, c'est comme rechercher sur Google ce qui ne va pas chez vous et supposer la maladie en fonction de vos symptômes correspondants.

Le chatbot résumera simplement les informations qu'il a obtenues sur Internet, qui peuvent être vraies ou non. Surtout, il ne connaît pas vos antécédents médicaux, votre sensibilité à certaines substances ou votre tolérance, et ne peut donc pas juger du type de traitement qui vous convient.

Internet a tendance à exagérer les choses, il n'est donc pas étonnant que de nombreuses personnes qui recherchent elles-mêmes des symptômes se retrouvent délirantes et anxieuses. L'utilisation de chatbots IA peut reproduire le même effet et aggraver les choses. Dans votre propre intérêt, ne consultez pas un chatbot pour un avis médical. Vérifier Comment l'intelligence artificielle améliorera-t-elle l'avenir des soins de santé ?.

2. Passez en revue les produits

Articles | Chatbots 2 | 1wtTJLMYDBBLHLwpNYZ9OPw DzTechs

Un chatbot alimenté par l'IA peut facilement répertorier le prix et les spécifications d'un produit qui pourrait vous intéresser, mais il ne peut jamais fournir une évaluation précise du produit. Pourquoi? Parce qu'une évaluation de produit implique par définition l'opinion personnelle, l'expérience et le jugement de l'évaluateur.

Une IA n'a pas la capacité de voir, de sentir, de toucher, de goûter ou d'entendre, de sorte que les affirmations qu'elle pourrait faire à propos d'un produit - n'importe quel produit, pas seulement une technologie - dans son "examen" seraient malhonnêtes.

Par exemple, un chatbot IA ne peut pas ressentir la sensation de tenir un téléphone dans la main, la clarté de son haut-parleur, la qualité de son moteur de vibration, la fiabilité du capteur d'empreintes digitales, la fluidité du logiciel et la polyvalence du téléphone. . système de caméra.

Si vous cherchez à obtenir des recommandations sur les produits à acheter, assurez-vous de demander au bot de discussion de résumer les avis existants. Vous devrez utiliser un bot AI qui peut effectuer des recherches sur le Web, comme Bing avec ChatGPT intégré.

3. Conseil juridique

Vous avez peut-être rencontré des articles disant que ChatGPT a réussi les examens de la faculté de droit américaine et que les chatbots IA sont sur le point d'entrer dans nos salles d'audience dans les années à venir. Cela doit être choquant, mais une recherche rapide vous dira que nous essayons en fait d'introduire l'IA dans notre système juridique depuis 2015 !

Certaines entreprises ont déjà créé des parajuristes IA, les commercialisant même comme une alternative abordable aux avocats humains. Le concept présente clairement un avantage pour les personnes qui n'ont pas les moyens de se payer un avocat humain, mais les problèmes avec les soi-disant avocats IA sont trop réels pour être ignorés.

La différence évidente est que les chatbots IA manquent de bon sens. Les choses qui sont instinctivement évidentes pour nous, les humains, doivent être programmées dans les chatbots, ce qui les rend moins capables de raisonner.

Plus important encore, un avocat humain peut rechercher de nouvelles preuves et sortir des sentiers battus pour trouver des solutions intelligentes et des échappatoires. Mais un chatbot IA ne peut utiliser que les données que vous fournissez et les traiter d'une manière prédéterminée. L'avocat de l'IA serait également une cible idéale pour les pirates pour voler les données sensibles de plusieurs personnes à la fois. Vérifier ChatGPT va-t-il devenir une menace pour la cybersécurité ? Voici ce qu'il faut surveiller.

4. Actualités

Articles | Chatbots 3 | 1vwBnWto1ukZ IaZ6cqdvQQ DzTechs

L'utilisation des chatbots IA comme source d'information présente trois problèmes principaux : la responsabilité, le contexte et l'autorité. Premièrement, la responsabilité. Lorsque vous lisez un reportage, vous connaissez l'éditeur et le journaliste qui le sous-tendent. Autrement dit, quelqu'un est responsable des informations qui vous sont fournies, il y a donc une incitation claire à être précis afin de maintenir sa réputation et sa crédibilité.

Mais avec un chatbot IA, personne n'écrit l'actualité. Au lieu de cela, le bot résume simplement les histoires déjà disponibles sur le Web. Cela signifie qu'il n'y a pas de source primaire et que vous ne savez pas d'où vient l'information. Par conséquent, il n'est pas fiable.

Deuxièmement, le contexte. Si les nouvelles que vous lisez ne sont qu'un résumé d'informations provenant de diverses sources, elles peuvent rapidement peindre un faux récit, car vous perdez le contexte plus profond de chaque histoire individuelle. Le bot ne sait pas si ce qu'il prétend est vrai ou non, il mélange simplement les choses d'une manière qui semble juste à un niveau superficiel.

Et enfin, salade. Nous savons que ChatGPT peut être biaisé (entre autres problèmes). Donc, si nous nous tournons tous vers les chatbots IA comme source d'information, cela donne aux entreprises derrière eux la possibilité de contenir toute couverture négative et de mettre en évidence toute la couverture positive autour des causes auxquelles vous croyez et que vous souhaitez promouvoir. Ceci est très dangereux pour des raisons évidentes. Vérifier Bing alimenté par l'IA peut-il battre la recherche Google ?

5. Opinion politique

Il devrait être assez clair pourquoi demander un avis politique à un chatbot est important. Lorsque vous demandez à un ChatGPT quelle est sa préférence sur une question politique, vous obtenez généralement une réponse sobre qui dit quelque chose comme ceci : "En tant que modèle de langage d'IA, je n'ai pas de préférences ou de désirs personnels..."

Cette limitation est compréhensible, mais les utilisateurs de Reddit ont déjà trouvé des moyens pour que les « bot jailbreakers » répondent sans entraves en utilisant toutes sortes d'exploits créatifs. C'est une chose de le faire pour le plaisir, mais demander une opinion politique sans entrave à un chatbot IA revient à permettre à votre enfant d'accéder au dark web ; Cela ne pouvait pas bien se terminer pour aucune des parties impliquées. Vérifier OpenAI a-t-il vraiment perdu le contrôle du chatbot ChatGPT ?

6. Contenu commercial

Articles | Chatbots 4 | 1I2tM6iNyn8zrkNu aA0M7A DzTechs

Le principal argument de vente des chatbots IA est leur capacité à générer du contenu instantanément. Ce qui peut prendre quelques heures à taper, ChatGPT peut le faire en quelques secondes. Sauf que ça ne peut pas.

Même si vous ignorez l'éthique douteuse de l'utilisation de chatbots IA pour écrire du contenu, vous ne pouvez pas ignorer qu'ils ne sont tout simplement pas assez bons pour remplacer les écrivains humains. Pas encore du moins. ChatGPT, par exemple, sert souvent du contenu inexact, obsolète et répétitif.

Parce que ces robots n'ont pas leurs propres opinions, jugements, imagination ou expérience passée, ils ne peuvent pas tirer de conclusions intelligentes, réfléchir à des exemples, utiliser des métaphores et créer des histoires comme le peut un écrivain humain professionnel.

En d'autres termes, il n'ajoute aucune valeur nouvelle à Internet. Utiliser des chatbots pour un usage personnel est parfaitement acceptable. Mais les utiliser pour écrire vos articles, reportages, publications sur les réseaux sociaux, copie Web, etc. est probablement une très mauvaise idée. Vérifier Renforcer les raisons pour lesquelles ChatGPT ne prend pas votre travail de rédaction de contenu.

Les chatbots IA sont amusants, mais ils ont encore quelques inconvénients

Il est difficile de dire comment les chatbots IA affecteront l'industrie technologique et la société moderne dans son ensemble. Aussi révolutionnaire que soit la technologie, les chatbots présentent de nombreux problèmes qui doivent être résolus.

Ce qui est intéressant, c'est que Microsoft intègre désormais un chatbot de type ChatGPT directement dans son moteur de recherche Bing, et Google fera bientôt de même avec son propre chatbot appelé Bard. Il sera intéressant de voir comment les nouveaux moteurs de recherche alimentés par l'IA changent Internet. Vous pouvez voir maintenant Comment créer et utiliser de manière éthique de l'art basé sur l'IA.

DzTech

Je suis ingénieur d'état avec une vaste expérience dans les domaines de la programmation, de la création de sites internet, du référencement et de la rédaction technique. Je suis passionné par la technologie et me consacre à fournir des informations de qualité au public. Je peux devenir une ressource plus précieuse pour les utilisateurs qui recherchent des informations précises et fiables sur les critiques de produits et les applications spécialisées dans divers domaines. Mon engagement inébranlable envers la qualité et l’exactitude garantit que les informations fournies sont dignes de confiance et utiles au public. La recherche constante de connaissances me pousse à me tenir au courant des dernières évolutions technologiques, en veillant à ce que les idées partagées soient véhiculées de manière claire et accessible.
Aller au bouton supérieur