Một bộ phim khoa học viễn tưởng ít được chú ý cho thấy sự gián đoạn do AI gây ra có thể mang lại tác động tích cực cho xã hội

An overlooked sci-fi movie shows how disruption by AI could be positive for society

Một bộ phim khoa học viễn tưởng ít được chú ý cho thấy sự gián đoạn do AI gây ra có thể mang lại tác động tích cực cho xã hội
Kevin Hunt, Director of Doctoral Programmes in Art & Design and Senior Lecturer in Culture & Context, Nottingham Trent University
Show
Hide
EN – VI
VI – EN
3000-5000 ▼
0-3000
3000-5000
5000-7000
7000-10000

The AI doomsday news cycle plays on anxieties about the future. The media has tended to prioritise sensational takes on the risk at the expense of more thoughtful opinions by, for example, experts in the ethics of AI.

Vòng luẩn quẩn tin tức về ngày tận thế do AI gây ra đang khoét sâu vào nỗi lo lắng về tương lai. Truyền thông thường có xu hướng ưu tiên những góc nhìn giật gân về rủi ro hơn là những ý kiến thấu đáo hơn từ, ví dụ, các chuyên gia về đạo đức AI.

Alarmist fantasies of superintelligence – where artificial intelligence surpasses that of the most gifted human minds – are criticised for distracting from real concerns and threats. AI is energy hungry, environmentally damaging, and has prompted urgent calls for legislation relating to a slew of ethical concerns.

Những tưởng tượng hoang tưởng về trí tuệ siêu việt – nơi trí tuệ nhân tạo vượt qua cả những bộ óc ưu tú nhất của con người – bị chỉ trích vì làm xao lãng các mối quan tâm và mối đe dọa thực tế. AI tiêu tốn nhiều năng lượng, gây hại cho môi trường và đã thúc đẩy những lời kêu gọi khẩn cấp về việc lập pháp liên quan đến hàng loạt vấn đề đạo đức.

Apocalyptic AI visions drawn from science fiction engage public interest. One fascinating scenario can be found in the 2018 movie Annihilation, starring Natalie Portman and Oscar Isaac. The film is being released in the 4K Ultra HD home media format in the UK and US in October.

Những viễn cảnh AI khải huyền được rút ra từ phim khoa học viễn tưởng thu hút sự quan tâm của công chúng. Một kịch bản hấp dẫn có thể được tìm thấy trong bộ phim Annihilation năm 2018, với sự tham gia của Natalie Portman và Oscar Isaac. Bộ phim sẽ được phát hành dưới định dạng phương tiện gia đình 4K Ultra HD tại Anh và Mỹ vào tháng 10.

Annihilation features an “alien intelligence” – a popular analogy for AI among tech leaders – which embeds itself within Earth’s environment. Can such visions be useful to the current real–world doomsday debate?

Annihilation có sự góp mặt của một “trí tuệ ngoài hành tinh” – một phép ẩn dụ phổ biến về AI trong giới lãnh đạo công nghệ – thứ hòa mình vào môi trường Trái Đất. Liệu những viễn cảnh như vậy có hữu ích đối với cuộc tranh

Sci-fi could help reframe the real–world narrative in positive ways. There are strange techno-futurist and eugenicist visions at play within Silicon Valley, which appear popular with some tech billionaires.

Phim khoa học viễn tưởng có thể giúp định hình lại câu chuyện thực tế theo những cách tích cực. Có những tầm nhìn kỳ lạ mang tính vị lai công nghệ và ưu sinh học đang ngấm ngầm diễn ra tại Thung lũng Silicon, dường như được một số tỷ phú công nghệ ưa chuộng.

These are linked to dark enlightenment thinking – a movement that rejects liberal democracy and egalitarianism – as well as effective altruism (attempting to impartially calculate benefits to provide the greatest good) . These visions encompass long–term perspectives that accept present–day sacrifice for future wellbeing.

Những điều này gắn liền với tư tưởng ánh sáng đen tối – một phong trào bác bỏ nền dân chủ tự chủ và chủ nghĩa egalitarian (chủ nghĩa bình quân) – cũng như chủ nghĩa vị tha hiệu quả (nỗ lực tính toán một cách vô tư các lợi ích để mang lại điều tốt đẹp lớn nhất) . Những tầm nhìn này bao gồm các viễn cảnh dài hạn chấp nhận sự hy sinh ở hiện tại vì sự thịnh vượng trong tương lai.

The future-oriented visions expressed by some tech leaders can be surreal, but they reflect the belief systems fuelling the drive for AI superintelligence. And that raises important questions, right now, about whose vision of the future we are investing in.

Những tầm nhìn hướng về tương lai được bày tỏ bởi một số nhà lãnh đạo công nghệ có thể mang tính siêu thực, nhưng chúng phản ánh hệ thống niềm tin đang thúc đẩy động lực tạo ra siêu trí tuệ AI. Và điều đó đặt ra những câu hỏi quan trọng, ngay lúc này, về việc tầm nhìn tương lai của ai mà chúng ta đang đầu tư vào.

Alex Garland’s sci-fi horror film Annihilation takes us into these issues through one of the weirdest sci-fi visions that’s out there. It is loosely adapted from a novel by Jeff VanderMeer.

Bộ phim kinh dị khoa học viễn tưởng Annihilation của đạo diễn Alex Garland đưa chúng ta bước vào những vấn đề này thông qua một trong những viễn cảnh khoa học viễn tưởng kỳ lạ nhất từng có. Phim được phỏng theo tiểu thuyết của Jeff VanderMeer.

Termed the Shimmer, because it radiates energy, the AI steadily expands its reach (starting from Florida swampland) by operating as a networked entity beyond human control. It changes everything within its domain. People, animals, and plants mutate in unpredictable ways, seemingly infected by a strange parasite.

Được gọi là The Shimmer (Ánh lấp lánh) , vì nó phát ra năng lượng, AI không ngừng mở rộng tầm với của mình (bắt đầu từ vùng đầm lầy Florida) bằng cách hoạt động như một thực thể mạng nằm ngoài tầm kiểm soát của con người. Nó thay đổi mọi thứ trong phạm vi của mình. Con người, động vật và thực vật đột biến theo những cách khó lường, dường như bị nhiễm một loại ký sinh trùng lạ.

Figure
Annihilation director Alex Garland has long been interested in artificial intelligence. DFree / Shutterstock
Đạo diễn phim Annihilation, ông Alex Garland, từ lâu đã quan tâm đến trí tuệ nhân tạo. DFree / Shutterstock

The story focuses on an expedition team, including genetics expert Lena (Portman) , who enter the Shimmer seeking answers. They discover that all electromagnetic waves and DNA are being disrupted and reconfigured.

Câu chuyện tập trung vào một đội thám hiểm, bao gồm chuyên gia di truyền học Lena (Portman) , những người bước vào vùng Ánh lấp lánh để tìm câu trả lời. Họ phát hiện ra rằng tất cả các sóng điện từ và DNA đều đang bị phá vỡ và tái cấu trúc.

The Shimmer is interfering with the fundamental patterns of life, redefining evolutionary code. Among other things, the Shimmer learns to clone humans. This enables it to exist within human–type bodies anywhere on Earth.

Ánh lấp lánh đang can thiệp vào các mô hình cơ bản của sự sống, định nghĩa lại mã tiến hóa. Trong số những thứ khác, Ánh lấp lánh học cách nhân bản con người. Điều này cho phép nó tồn tại bên trong những cơ thể giống con người ở bất cứ đâu trên Trái Đất.

Both extinction and immortality

Cả sự tuyệt chủng và sự bất tử

Annihilation toys with different types of human extinction. Terminal extinction refers to humanity dying out while leaving a successor species, a bit like the concept of a human’s consciousness being uploaded onto a machine. Final extinction is when humanity ends, full stop.

Annihilation đùa giỡn với các loại hình tuyệt chủng khác nhau của con người. Tuyệt chủng mang tính chuyển giao đề cập đến việc nhân loại lụi tàn nhưng để lại một loài kế nhiệm, hơi giống khái niệm ý thức của con người được tải lên một cỗ máy. Tuyệt chủng hoàn toàn là khi nhân loại chấm hết, chấm hết hoàn toàn.

When tech billionaires stumble over questions about wanting humanity to endure, they are probably thinking of terminal extinction. Surreal as it sounds, this magical thinking is a recurrent feature of the AI landscape.

Khi các tỷ phú công nghệ vấp phải những câu hỏi về việc muốn nhân loại trường tồn, có lẽ họ đang nghĩ đến sự tuyệt chủng mang tính chuyển giao. Nghe có vẻ siêu thực, nhưng tư duy kỳ diệu này là một đặc điểm lặp đi lặp lại trong bối cảnh AI.

Annihilation leaves the viewer to decide which form of human termination is occurring. The film draws on Garland’s deep fascination with AI. His debut as a director, Ex Machina, explored a humanoid robot passing the Turing test and breaking free from human control.

Annihilation để người xem tự quyết định hình thức kết thúc nào của con người đang diễn ra. Bộ phim dựa trên niềm đam mê sâu sắc của Garland với AI. Tác phẩm đầu tay của ông với tư cách là đạo diễn, Ex Machina, đã khám phá một robot hình người vượt qua bài kiểm tra Turing và thoát khỏi sự kiểm soát của con người.

His television series Devs visualises a world where a quantum supercomputer has “godlike” capabilities.

Loạt phim truyền hình Devs của ông hình dung ra một thế giới nơi một siêu máy tính lượng tử có khả năng “giống thần thánh.”

Annihilation’s organic body horror uses imagery of destroyed, mutated, and cloned bodies to reflect profound social anxiety about humanity’s future. As Garland himself has suggested in an interview, there is a form of digital spirituality fuelling the tech billionaire drive for AI superintelligence and his sci-fi work explores this concept in various ways.

Nỗi kinh hoàng về thể xác mang tính hữu cơ của Annihilation sử dụng hình ảnh những cơ thể bị hủy diệt, đột biến và nhân bản để phản ánh sự lo lắng sâu sắc của xã hội về tương lai của nhân loại. Như chính Garland đã gợi ý trong một cuộc phỏng vấn, có một hình thức tâm linh kỹ thuật số đang thúc đẩy động lực của các tỷ phú công nghệ hướng tới siêu trí tuệ AI và các tác phẩm khoa học viễn tưởng của ông khám phá khái niệm này theo nhiều cách khác nhau.

AI as parasite

AI như một loài ký sinh trùng

Annihilation is weird but it makes sense through the parasite theory of communication. The French philosopher and historian of science Michel Serres expanded upon biological parasites to develop a media and communications theory. In it, he argued that all forms of interaction involve disruption and noise.

Annihilation rất kỳ quặc nhưng nó lại trở nên hợp lý thông qua lý thuyết ký sinh trùng về truyền thông. Triết gia và nhà sử học khoa học người Pháp Michel Serres đã phát triển dựa trên các loài ký sinh trùng sinh học để xây dựng nên một lý thuyết truyền thông và truyền thông đại chúng. Trong đó, ông lập luận rằng mọi hình thức tương tác đều liên quan đến sự gián đoạn và nhiễu loạn.

Whether intentional or not, within every interaction there is always some kind of human or non-human disruption at play. Think in terms of glitches and interference while using digital devices, background noise, changeable environments, uninvited guests and any other distraction. According to Serres’ idea, these can all be visualised as forms of parasite feeding on attempts to interact.

Dù có chủ ý hay không, trong mọi tương tác luôn có một số hình thức gián đoạn của con người hoặc phi con người đang diễn ra. Hãy nghĩ đến các lỗi kỹ thuật và sự can thiệp khi sử dụng các thiết bị kỹ thuật số, tiếng ồn xung quanh, môi trường thay đổi, những vị khách không mời và bất kỳ sự xao lãng nào khác. Theo quan điểm của Serres, tất cả những điều này có thể được hình dung như các hình thức ký sinh trùng đang ăn mòn các nỗ lực tương tác.

In some instances, the parasite takes over – the disruptor displaces the host. If the impact of a parasitical disruptor is significant, it can change society forever. Disruption is a popular term in technology, and AI can be seen as a global disruptor.

Trong một số trường hợp, ký sinh trùng chiếm quyền kiểm soát – kẻ gây rối thay thế vật chủ. Nếu tác động của một kẻ gây rối ký sinh trùng là đáng kể, nó có thể thay đổi xã hội mãi mãi. Sự gián đoạn là một thuật ngữ phổ biến trong công nghệ, và AI có thể được xem là một tác nhân gây gián đoạn toàn cầu.

But disruption shouldn’t be viewed as inherently negative. In fact, disruption is generally considered a form of positive change because it offers new tools, systems and processes that displace the current methods and structures available to humans in everyday life.

Nhưng sự gián đoạn không nên được xem là bản chất tiêu cực. Trên thực tế, sự gián đoạn thường được coi là một hình thức thay đổi tích cực vì nó cung cấp các công cụ, hệ thống và quy trình mới thay thế các phương pháp và cấu trúc hiện tại có sẵn cho con người trong đời sống hàng ngày.

But it raises the key issue of whose interests, ethics and beliefs are being propagated and served by the impact of AI as a disruptor. Annihilation visualises a parasitical disruptive force embedded within the environment, which invites comparison with the darker areas of techno-futuristic visions from Silicon Valley and beyond. Like the Shimmer, AI is not going away; it just keeps changing form.

Nhưng nó đặt ra vấn đề cốt lõi về việc lợi ích, đạo đức và niềm tin của ai đang được truyền bá và phục vụ bởi tác động của AI như một tác nhân gây gián đoạn. Annihilation hình dung ra một lực lượng gây rối mang tính ký sinh trùng được nhúng sâu vào môi trường, điều này mời gọi sự so sánh với những khía cạnh đen tối hơn của các tầm nhìn vị lai công nghệ từ Thung lũng Silicon và hơn thế nữa. Giống như Ánh lấp lánh, AI sẽ không biến mất; nó chỉ không ngừng thay đổi hình dạng.

More importantly, Annihilation shows how small–scale changes can build towards global impacts. The story to engage with isn’t the fantasy that AI superintelligence is about to dominate humanity – it’s the one about disruption and whether that is a net positive or negative for human society.

Quan trọng hơn, Annihilation cho thấy những thay đổi quy mô nhỏ có thể tích tụ để tạo ra các tác động toàn cầu như thế nào. Câu chuyện cần quan tâm không phải là ảo tưởng rằng siêu trí tuệ AI sắp thống trị nhân loại – mà là câu chuyện về sự gián đoạn và liệu đó là một yếu tố tích cực hay tiêu cực ròng đối với xã hội loài người.

Changing how we think about and use AI requires critically examining it, disrupting the fantasy narrative, and redefining the discourse and direction of travel of this world–changing technology.

Thay đổi cách chúng ta suy nghĩ và sử dụng AI đòi hỏi phải đánh giá nó một cách phản biện, phá vỡ câu chuyện hoang đường, đồng thời định nghĩa lại diễn ngôn và hướng đi của công nghệ thay đổi thế giới này.

What Annihilation tells us is that becoming a disruptor can change our future visions and current realities in a positive way. It helps us see possibilities for a technological future that move beyond the human extinction trope.

Những gì Annihilation nói với chúng ta là việc trở thành một tác nhân gây gián đoạn có thể thay đổi tầm nhìn tương lai và thựcate hiện tại của chúng ta theo một hướng tích cực. Nó giúp chúng ta nhìn thấy những khả năng cho một tương lai công nghệ vượt ra ngoài lối mòn về sự tuyệt chủng của con người.

Kevin Hunt does not work for, consult, own shares in or receive funding from any company or organisation that would benefit from this article, and has disclosed no relevant affiliations beyond their academic appointment.

Kevin Hunt không làm việc cho, tư vấn, sở hữu cổ phần hoặc nhận tài trợ từ bất kỳ công ty hoặc tổ chức nào có thể hưởng lợi từ bài viết này, và không công bố bất kỳ mối liên hệ nào ngoài học hàm của mình.