Si l’IA est addictive, où réside la responsabilité – chez les grandes entreprises technologiques ou chez ses utilisateurs ?
If AI is addictive, where does the responsibility lie – with big tech or its users?
Generative AI systems show signs of being addictive, but the evidence is still at an early stage.
Les systèmes d’IA générative montrent des signes de dépendance, mais les preuves sont encore à un stade précoce.
When I talk to my son, an engineering student, and we have a question or disagreement, he immediately turns to ChatGPT as his primary source of information and confirmation.
Quand je parle à mon fils, étudiant en ingénierie, et que nous avons une question ou un désaccord, il se tourne immédiatement vers ChatGPT comme sa source principale d’information et de confirmation.
He is not alone in this. The use of generative AI tools has exploded across different demographic groups. For many people, these tools can be entertaining, informative and beneficial. However, they also have a dark side.
Il n’est pas seul dans cette situation. L’utilisation des outils d’IA générative a explosé au sein de différents groupes démographiques. Pour beaucoup de gens, ces outils peuvent être divertissants, informatifs et bénéfiques. Cependant, ils ont aussi un côté sombre.
Generative AI is not formally recognised as addictive right now – the medical evidence is still being gathered. But there is a significant amount of data showing heavy use of chatbots and other systems that produce text, images and video leads to neural patterns and behaviour that are associated with addiction.
L’IA générative n’est pas encore officiellement reconnue comme addictive – les preuves médicales sont toujours en cours de collecte. Mais il existe une quantité importante de données montrant que l’utilisation intensive des chatbots et d’autres systèmes qui produisent du texte, des images et des vidéos conduit à des schémas neuronaux et un comportement associés à la dépendance.
In light of Meta’s and YouTube’s recent legal defeat in a landmark social media addiction trial, I believe it’s time to ask whether a similar logic applies to generative AI – and how it could be addressed. The starting point would be to identify who carries responsibility for overuse of generative AI.
Au vu de la récente défaite juridique de Meta et YouTube dans un procès historique sur la dépendance aux médias sociaux, je crois qu’il est temps de se demander si une logique similaire s’applique à l’IA générative – et comment cela pourrait être abordé. Le point de départ serait d’identifier qui porte la responsabilité de la surutilisation de l’IA générative.
The science on this is not settled, and there are some who counsel caution when using the term addiction. They propose the use of other expressions such as “problematic use”. However, in a recent paper, our team of researchers suggest there is strong evidence to suggest that generative AI has addictive properties.
La science sur ce sujet n’est pas tranchée, et certains conseillent la prudence lorsqu’ils utilisent le terme « addiction. » Ils proposent d’utiliser des expressions telles que « usage problématique ». Cependant, dans un article récent, notre équipe de chercheurs suggère qu’il existe des preuves solides indiquant que l’IA générative possède des propriétés addictives.
Much-discussed examples include emotional dependency on chatbot companions, compulsive engagement with them, and the loss of real-world acquaintances and friends.
Parmi les exemples très discutés figurent la dépendance émotionnelle aux compagnons chatbots, l’engagement compulsif avec eux et la perte de connaissances et d’amis dans le monde réel.
A key factor here is that, as in all cases of addiction, the behaviour has negative consequences for the user which may affect both their personal and professional lives.
Un facteur clé est qu’en cas de dépendance, comme dans tous les autres cas, le comportement a des conséquences négatives pour l’utilisateur qui peuvent affecter à la fois sa vie personnelle et professionnelle.
If we follow the argument that generative AI is a candidate for addictive behaviour, then we also need to look at responsibility. Societies tend to find ways to deal with harm by holding people or groups responsible for fixing it. Those who could be accountable include legislators, regulators, industry and health systems.
Si nous suivons l’argument selon lequel l’IA générative est un candidat au comportement addictif, alors nous devons également examiner la responsabilité. Les sociétés ont tendance à trouver des moyens de gérer les préjudices en tenant des personnes ou des groupes responsables de leur correction. Ceux qui pourraient être tenus pour responsables incluent les législateurs, les régulateurs, l’industrie et les systèmes de santé.
Historical examples
Exemples historiques
Historical precedents such as smoking might offer insights into how the area of generative AI addiction could evolve.
Des précédents historiques tels que le tabagisme pourraient offrir un aperçu de l’évolution du domaine de la dépendance à l’IA générative.
Older readers may remember when the Marlboro Man would appear before any feature movie in their local cinemas. It eventually transpired that not only was smoking addictive and bad for your health, but that tobacco companies knew this. Nevertheless, it was publicly denied.
Les lecteurs plus âgés se souviendront peut-être de l’époque où le Marlboro Man apparaissait avant n’importe quel film long métrage dans leurs cinémas locaux. Il s’est finalement avéré que non seulement fumer était addictif et mauvais pour la santé, mais que les compagnies de tabac en étaient conscientes. Néanmoins, cela a été publiquement nié.
This led to lengthy and high-profile litigation, eventually resulting in large-scale financial payouts and changes to the industry. These changes included the plain packaging of tobacco products and gruesome warning labels on them.
Cela a conduit à des litiges longs et médiatisés, aboutissant finalement à des paiements financiers à grande échelle et à des changements dans l’industrie. Ces changements comprenaient le conditionnement simple des produits du tabac et des étiquettes d’avertissement macabres sur ceux-ci.
Gambling could be following a similar trajectory – and now social media companies may be taking their first steps into a similar process.
Les jeux d’argent pourraient suivre une trajectoire similaire – et maintenant les entreprises de médias sociaux pourraient faire leurs premiers pas dans un processus comparable.
A key question is whether the makers of a product – be it tobacco, gambling or social media – are aware of its addictive properties. Another important factor being considered is whether certain companies may even use the allegedly addictive properties of their products for corporate advantage.
Une question clé est de savoir si les fabricants d’un produit – qu’il s’agisse du tabac, des jeux d’argent ou des médias sociaux – sont conscients de ses propriétés addictives. Un autre facteur important pris en compte est de savoir si certaines entreprises peuvent même utiliser les propriétés prétendument addictives de leurs produits à des fins d’avantage corporatif.
AI is not tobacco, of course, but there may be parallels to be studied.
L’IA n’est pas du tabac, bien sûr, mais il pourrait y avoir des parallèles à étudier.
In our research, we have identified four groups of stakeholders that are now being called upon to address the challenges linked to the possibility of addiction to generative AI.
Dans notre recherche, nous avons identifié quatre groupes de parties prenantes qui sont désormais appelées à relever les défis liés à la possibilité d’addiction à l’IA générative.
The first is governments and regulators. These have a key role to play in highlighting the problems, setting the rules of engagement, and creating incentives for other parties to engage with the topic.
Le premier est celui des gouvernements et des régulateurs. Ces derniers ont un rôle clé à jouer en soulignant les problèmes, en établissant les règles du jeu et en créant des incitations pour que d’autres parties s’intéressent au sujet.
They can do this by requiring labelling, restricting advertising, applying liability law and providing research funding – along with many other mechanisms.
Ils peuvent le faire en exigeant un étiquetage, en restreignant la publicité, en appliquant le droit de responsabilité et en fournissant des financements de recherche – ainsi que par de nombreux autres mécanismes.
But the most important role in addressing potential addictive behaviour associated with generative AI would be held by big tech companies that develop and own these technologies – and stand to benefit financially from them.
Mais le rôle le plus important dans la lutte contre un comportement potentiellement addictif associé à l’IA générative serait tenu par les grandes entreprises technologiques qui développent et possèdent ces technologies – et qui en tirent des bénéfices financiers.
These companies own and have access to user data, which would be needed to ascertain the features that support or alleviate addiction. They are also the parties that would benefit financially from addiction by increasing user numbers and engagement, the main currency of the digital age.
Ces entreprises possèdent et ont accès aux données des utilisateurs, qui seraient nécessaires pour déterminer les fonctionnalités qui soutiennent ou atténuent la dépendance. Ce sont également les parties qui bénéficieraient financièrement de l’addiction en augmentant le nombre d’utilisateurs et leur engagement, la principale monnaie de l’ère numérique.
In addition to these two groups, academic researchers have an important role in collecting and interpreting data, and providing the evidence needed to recognise addiction and addictive features – in ways that allow for evidence-based political or legal debate.
En plus de ces deux groupes, les chercheurs universitaires ont un rôle important dans la collecte et l’interprétation des données, et dans la fourniture des preuves nécessaires pour reconnaître la dépendance et les fonctionnalités addictives – d’une manière qui permet un débat politique ou juridique fondé sur des preuves.
Finally, civil society organisations such as user or patient groups can help by providing support, advocating for members’ interests, and establishing early-warning structures.
Enfin, les organisations de la société civile telles que des groupes d’utilisateurs ou de patients peuvent aider en fournissant un soutien, en défendant les intérêts de leurs membres et en établissant des structures d’alerte précoce.
The point is that none of these interested parties can address the problem on their own. They need to collaborate.
Le point est qu’aucune de ces parties intéressées ne peut résoudre le problème seule. Elles doivent collaborer.
Someone else’s problem
Le problème de quelqu’un d’autre
A key problem at the moment is the lack of structured debate about responsibilities – everybody assumes it is someone else’s problem. But there is ample precedent showing how greater engagement from those involved with the issue may be achieved.
Un problème majeur actuellement est le manque de débat structuré sur les responsabilités – tout le monde suppose que c’est le problème de quelqu’un d’autre. Mais il existe de nombreux précédents montrant comment un plus grand engagement de la part des personnes impliquées dans le problème peut être atteint.
With tobacco, the World Health Organization (WHO) formed the Framework Convention on Tobacco Control – a treaty-based mechanism that brought together governments, public health bodies, researchers and civil society to evaluate evidence and draw up common rules. The International AI Safety Report shows comparable international consensus-building activities are already happening in other aspects of AI.
Concernant le tabac, l’Organisation mondiale de la Santé (OMS) a formé la Convention-cadre sur la lutte antitabac – un mécanisme basé sur un traité qui a réuni les gouvernements, les organismes de santé publique, les chercheurs et la société civile pour évaluer les preuves et établir des règles communes. Le rapport international sur la sécurité de l’IA montre que des activités comparables de construction de consensus au niveau international se déroulent déjà dans d’autres aspects de l’IA.
Some responsibility also falls on the users of AI, who should try to avoid or control their own potentially harmful behaviour. But appeals to individual moderation or mindfulness have been shown with other addictions to be insufficient.
Une certaine responsabilité incombe également aux utilisateurs de l’IA, qui devraient essayer d’éviter ou de contrôler leur propre comportement potentiellement nuisible. Mais les appels à la modération individuelle ou à la pleine conscience se sont avérés insuffisants avec d’autres dépendances.
While the harms associated with smoking or alcohol misuse are well known, society still relies on age limits, packaging rules and advertising restrictions. Generative AI is being integrated into the everyday fabric of our society. The choices we now make will determine what acceptable use looks like for years to come.
Bien que les préjudices associés au tabagisme ou à l’abus d’alcool soient bien connus, la société s’appuie encore sur des limites d’âge, des règles d’emballage et des restrictions publicitaires. L’IA générative est en train d’être intégrée dans le tissu quotidien de notre société. Les choix que nous faisons maintenant détermineront à quoi ressemblera l’utilisation acceptable pendant les années à venir.
Bernd Stahl does not work for, consult, own shares in or receive funding from any company or organisation that would benefit from this article, and has disclosed no relevant affiliations beyond their academic appointment.
Bernd Stahl ne travaille pour, ne consulte pas, ne détient pas d’actions ni ne reçoit de financement de la part d’aucune entreprise ou organisation qui bénéficierait de cet article, et n’a divulgué aucune affiliation pertinente au-delà de sa nomination universitaire.
Read more
-
Quelle liste de survivants de la Peste Noire révèle sur la manière dont les gens se sont rétablis de la peste
What a list of Black Death survivors reveals about the way people recovered from plague
-
Qu’y a-t-il de mal dans la manière dont les États-Unis et l’Ouganda prévoient d’arrêter la propagation de l’Ébola ?
What’s wrong with how US and Uganda plan to stop Ebola spreading