Si la IA es adictiva, ¿dónde recae la responsabilidad: en las grandes tecnológicas o en sus usuarios?
If AI is addictive, where does the responsibility lie – with big tech or its users?
Generative AI systems show signs of being addictive, but the evidence is still at an early stage.
Los sistemas de IA generativa muestran signos de ser adictivos, pero la evidencia aún se encuentra en una etapa inicial.
When I talk to my son, an engineering student, and we have a question or disagreement, he immediately turns to ChatGPT as his primary source of information and confirmation.
Cuando hablo con mi hijo, estudiante de ingeniería, y tenemos una pregunta o un desacuerdo, él inmediatamente recurre a ChatGPT como su fuente principal de información y confirmación.
He is not alone in this. The use of generative AI tools has exploded across different demographic groups. For many people, these tools can be entertaining, informative and beneficial. However, they also have a dark side.
No está solo en esto. El uso de herramientas de IA generativa ha explotado en diferentes grupos demográficos. Para muchas personas, estas herramientas pueden ser entretenidas, informativas y beneficiosas. Sin embargo, también tienen un lado oscuro.
Generative AI is not formally recognised as addictive right now – the medical evidence is still being gathered. But there is a significant amount of data showing heavy use of chatbots and other systems that produce text, images and video leads to neural patterns and behaviour that are associated with addiction.
La IA generativa no está reconocida formalmente como adictiva en este momento; la evidencia médica aún se está recopilando. Pero hay una cantidad significativa de datos que muestran que el uso intensivo de chatbots y otros sistemas que producen texto, imágenes y video conduce a patrones neuronales y comportamientos asociados con la adicción.
In light of Meta’s and YouTube’s recent legal defeat in a landmark social media addiction trial, I believe it’s time to ask whether a similar logic applies to generative AI – and how it could be addressed. The starting point would be to identify who carries responsibility for overuse of generative AI.
A la luz de la reciente derrota legal de Meta y YouTube en un juicio histórico sobre la adicción a las redes sociales, creo que es hora de preguntar si una lógica similar se aplica a la IA generativa, y cómo podría abordarse. El punto de partida sería identificar quién tiene la responsabilidad del uso excesivo de la IA generativa.
The science on this is not settled, and there are some who counsel caution when using the term addiction. They propose the use of other expressions such as “problematic use”. However, in a recent paper, our team of researchers suggest there is strong evidence to suggest that generative AI has addictive properties.
La ciencia sobre esto no está resuelta, y hay quienes aconsejan cautela al usar el término adicción. Proponen el uso de otras expresiones como «uso problemático.» Sin embargo, en un artículo reciente, nuestro equipo de investigadores sugiere que existe una fuerte evidencia para indicar que la IA generativa tiene propiedades adictivas.
Much-discussed examples include emotional dependency on chatbot companions, compulsive engagement with them, and the loss of real-world acquaintances and friends.
Ejemplos muy discutidos incluyen la dependencia emocional de los compañeros chatbots, el compromiso compulsivo con ellos y la pérdida de conocidos y amigos del mundo real.
A key factor here is that, as in all cases of addiction, the behaviour has negative consequences for the user which may affect both their personal and professional lives.
Un factor clave aquí es que, como en todos los casos de adicción, el comportamiento tiene consecuencias negativas para el usuario, lo que puede afectar tanto a su vida personal como profesional.
If we follow the argument that generative AI is a candidate for addictive behaviour, then we also need to look at responsibility. Societies tend to find ways to deal with harm by holding people or groups responsible for fixing it. Those who could be accountable include legislators, regulators, industry and health systems.
Si seguimos el argumento de que la IA generativa es una candidata para un comportamiento adictivo, entonces también debemos analizar la responsabilidad. Las sociedades tienden a encontrar formas de lidiar con el daño responsabilizando a personas o grupos por arreglarlo. Quienes podrían ser responsables incluyen legisladores, reguladores, la industria y los sistemas de salud.
Historical examples
Ejemplos históricos
Historical precedents such as smoking might offer insights into how the area of generative AI addiction could evolve.
Precedentes históricos como el tabaquismo podrían ofrecer perspectivas sobre cómo podría evolucionar el área de la adicción a la IA generativa.
Older readers may remember when the Marlboro Man would appear before any feature movie in their local cinemas. It eventually transpired that not only was smoking addictive and bad for your health, but that tobacco companies knew this. Nevertheless, it was publicly denied.
Los lectores mayores pueden recordar cuando el Marlboro Man aparecía antes de cualquier película de estreno en sus cines locales. Finalmente se reveló que no solo fumar era adictivo y malo para la salud, sino que las compañías tabacaleras lo sabían. Sin embargo, esto fue negado públicamente.
This led to lengthy and high-profile litigation, eventually resulting in large-scale financial payouts and changes to the industry. These changes included the plain packaging of tobacco products and gruesome warning labels on them.
Esto condujo a litigios largos y muy mediáticos, lo que finalmente resultó en grandes pagos financieros y cambios en la industria. Estos cambios incluyeron el empaque simple de productos de tabaco y etiquetas de advertencia macabras sobre ellos.
Gambling could be following a similar trajectory – and now social media companies may be taking their first steps into a similar process.
El juego podría seguir una trayectoria similar, y ahora las empresas de redes sociales pueden estar dando sus primeros pasos hacia un proceso parecido.
A key question is whether the makers of a product – be it tobacco, gambling or social media – are aware of its addictive properties. Another important factor being considered is whether certain companies may even use the allegedly addictive properties of their products for corporate advantage.
Una pregunta clave es si los creadores de un producto —ya sea tabaco, juegos o redes sociales— son conscientes de sus propiedades adictivas. Otro factor importante que se está considerando es si ciertas compañías incluso podrían utilizar supuestamente las propiedades adictivas de sus productos para obtener una ventaja corporativa.
AI is not tobacco, of course, but there may be parallels to be studied.
La IA no es tabaco, por supuesto, pero puede haber paralelismos que estudiar.
In our research, we have identified four groups of stakeholders that are now being called upon to address the challenges linked to the possibility of addiction to generative AI.
En nuestra investigación, hemos identificado cuatro grupos de partes interesadas que ahora están siendo llamados a abordar los desafíos relacionados con la posibilidad de adicción a la IA generativa.
The first is governments and regulators. These have a key role to play in highlighting the problems, setting the rules of engagement, and creating incentives for other parties to engage with the topic.
El primero son los gobiernos y reguladores. Estos tienen un papel clave en señalar los problemas, establecer las normas de interacción y crear incentivos para que otras partes se involucren en el tema.
They can do this by requiring labelling, restricting advertising, applying liability law and providing research funding – along with many other mechanisms.
Pueden hacer esto exigiendo etiquetado, restringiendo la publicidad, aplicando derecho de responsabilidad civil y proporcionando fondos de investigación, junto con muchos otros mecanismos.
But the most important role in addressing potential addictive behaviour associated with generative AI would be held by big tech companies that develop and own these technologies – and stand to benefit financially from them.
Pero el papel más importante para abordar un posible comportamiento adictivo asociado con la IA generativa lo tendrían las grandes empresas tecnológicas que desarrollan y poseen estas tecnologías, y que se beneficiarían financieramente de ellas.
These companies own and have access to user data, which would be needed to ascertain the features that support or alleviate addiction. They are also the parties that would benefit financially from addiction by increasing user numbers and engagement, the main currency of the digital age.
Estas compañías poseen y tienen acceso a los datos de los usuarios, que serían necesarios para determinar las características que apoyan o alivian la adicción. También son las partes que se beneficiarían financieramente de la adicción al aumentar el número de usuarios y su interacción, la principal moneda de la era digital.
In addition to these two groups, academic researchers have an important role in collecting and interpreting data, and providing the evidence needed to recognise addiction and addictive features – in ways that allow for evidence-based political or legal debate.
Además de estos dos grupos, los investigadores académicos tienen un papel importante en la recopilación e interpretación de datos, y en proporcionar la evidencia necesaria para reconocer la adicción y las características adictivas, de maneras que permitan un debate político o legal basado en evidencia.
Finally, civil society organisations such as user or patient groups can help by providing support, advocating for members’ interests, and establishing early-warning structures.
Finalmente, las organizaciones de la sociedad civil, como grupos de usuarios o pacientes, pueden ayudar proporcionando apoyo, defendiendo los intereses de sus miembros y estableciendo estructuras de alerta temprana.
The point is that none of these interested parties can address the problem on their own. They need to collaborate.
El punto es que ninguna de estas partes interesadas puede abordar el problema por sí sola. Necesitan colaborar.
Someone else’s problem
Problema ajeno
A key problem at the moment is the lack of structured debate about responsibilities – everybody assumes it is someone else’s problem. But there is ample precedent showing how greater engagement from those involved with the issue may be achieved.
Un problema clave en este momento es la falta de un debate estructurado sobre las responsabilidades: todo el mundo asume que es un problema ajeno. Pero hay amplios precedentes que muestran cómo se puede lograr una mayor participación por parte de quienes están involucrados con el tema.
With tobacco, the World Health Organization (WHO) formed the Framework Convention on Tobacco Control – a treaty-based mechanism that brought together governments, public health bodies, researchers and civil society to evaluate evidence and draw up common rules. The International AI Safety Report shows comparable international consensus-building activities are already happening in other aspects of AI.
Con el tabaco, la Organización Mundial de la Salud (OMS) formó la Convención Marco para el Control del Tabaco, un mecanismo basado en tratados que reunió a gobiernos, organismos de salud pública, investigadores y la sociedad civil para evaluar evidencia y establecer reglas comunes. El Informe Internacional sobre Seguridad de la IA muestra que actividades comparables de construcción de consenso internacional ya están ocurriendo en otros aspectos de la IA.
Some responsibility also falls on the users of AI, who should try to avoid or control their own potentially harmful behaviour. But appeals to individual moderation or mindfulness have been shown with other addictions to be insufficient.
Parte de la responsabilidad también recae en los usuarios de la IA, quienes deben intentar evitar o controlar su propio comportamiento potencialmente dañino. Pero se ha demostrado que apelar a la moderación individual o la atención plena es insuficiente con otras adicciones.
While the harms associated with smoking or alcohol misuse are well known, society still relies on age limits, packaging rules and advertising restrictions. Generative AI is being integrated into the everyday fabric of our society. The choices we now make will determine what acceptable use looks like for years to come.
Si bien los daños asociados con el tabaquismo o el mal uso del alcohol son bien conocidos, la sociedad todavía se basa en límites de edad, reglas de empaque y restricciones publicitarias. La IA generativa se está integrando en el tejido cotidiano de nuestra sociedad. Las elecciones que hagamos ahora determinarán cómo será el uso aceptable en los años venideros.
Bernd Stahl does not work for, consult, own shares in or receive funding from any company or organisation that would benefit from this article, and has disclosed no relevant affiliations beyond their academic appointment.
Bernd Stahl no trabaja para, asesora, posee acciones de ni recibe financiación de ninguna empresa u organización que se beneficiaría de este artículo, y no ha revelado afiliaciones relevantes más allá de su nombramiento académico.
Read more
-
Los precios disparados de las entradas podrían ayudar a la FIFA a recaudar 15.000 millones de dólares en este ciclo de Copa Mundial — ¿de dónde viene el dinero y adónde va?
Soaring ticket prices could help FIFA pull in $15B this World Cup cycle — where does the money come from, where does it go?
-
Un año después de su breve guerra, ¿qué tan cerca están India y Pakistán de otro conflicto?
One year after their brief war, how close are India and Pakistan to another conflict?