Scroll down for the Vietnamese version of this article (Kéo xuống để xem bản tiếng Việt của bài viết này)

When talking about the potential for Artificial Intelligence (AI) to destroy humanity, many of us cannot help but imagine the fierce-looking robots in The Terminator, clutching guns and hunting down the last human on Earth. A terrifying vision, isn’t it?

In reality, things likely won’t follow such a dramatic script. As someone relatively optimistic about the future of humanity and AI, I believe the benefits AI brings us will outweigh the negatives and harms. However, that does not mean I am indifferent to the warnings of disruption, volatility, and even large-scale catastrophe that AI could cause. This article is intended to discuss those risks.

You might feel uneasy or pessimistic after reading this. You might even conclude that we should stop all AI development right here. But that is not my purpose. AI, like fire, offers immense benefits but also possesses powerful destructive potential. Let us use it cautiously and responsibly, alongside necessary safety measures.

The following are the threats from AI – or the combination of humans and AI – in the near future:

1. Financial System Instability

Currently, up to 60-70% of stock trades are executed by algorithms. These algorithms make decisions to move billions of dollars in an instant, at a speed no human can match. As AI penetrates deeper into trading systems, the danger lies not just in automation, but in uniformity – a term researchers call “AI monoculture.”

What is “AI monoculture?” It is a situation where AI systems are trained on the same data and pursue the same goals, causing them to react and act in extreme synchronization to a specific market signal. Under normal conditions, AI monoculture is a benefit; but in a crisis context, it can be a disaster. An unexpected negative market signal could trigger thousands of AI systems to sell off simultaneously, causing a “flash crash” and wiping out a massive amount of value in just minutes.

In markets where a few large corporations and enterprises hold too much influence, AI monoculture is particularly damaging. If AI systems collectively decide that those companies are overvalued or facing high risks, their decisions could lead to widespread consequences far beyond the stock market, affecting pensions, savings accounts, business investments, and public confidence in the economy.

2. Cyber-Attacks Targeting Critical Infrastructure

While stock market fluctuations caused by AI algorithms might only affect a segment of the population, attacks that paralyze critical infrastructure would impact entire cities, provinces, or even nations. Imagine a day when your city loses power, the water supply is interrupted, medical services are disabled, and communication networks are brought down so that no one can contact anyone else – the possibility of this happening is increasingly high with the support of AI.

Of course, AI does not spontaneously attack such infrastructure, but bad actors and terrorists can absolutely leverage the power of AI to design sophisticated commands and attack plans. Gone are the days when bad actors only used AI to trick you into clicking an email link to steal personal or financial information; today, they can use AI to scan and find the weakest points of a power grid, a water treatment plant, or a healthcare system, and then attack all three simultaneously.

The concerning point here is that the balance is tipping in favour of the attackers for two reasons:

First, while these critical systems and infrastructures must spend billions of dollars on defense and security, an AI-supported attack might only cost a few tens of thousands of dollars to succeed.

Second, defenders must protect every corner and every possible weakness of a system, while an attacker only needs to find a single vulnerability. In the past, finding such a weakness required a team of hackers working for weeks or even months. Now, AI may only need a few days or hours to find security flaws that humans would never suspect.

The amenities we enjoy in modern life – electricity, water, Internet, healthcare services, etc. – could therefore be interrupted at any time. If it hasn’t happened yet, often the only barrier is simply that bad actors have not yet chosen to create such an event.

3. Easier Access to Biological Weapons

In the past, if terrorist organizations wanted to create biological weapons, they needed several conditions: scientists with high expertise, a laboratory with expensive equipment, and a strictly controlled environment. This was a significant barrier to preventing bad actors from designing dangerous biological agents. Today, AI has partially lowered this barrier.

While AI systems can simulate DNA, proteins, and pathogens to help researchers create medical breakthroughs, they can also help bad actors design toxins, manipulate genetic sequences, or find ways to bypass safety barriers. This is a classic example of a double-edged sword: AI can accelerate the process of finding cures, but it can also accelerate the creation of toxins and pathogens. In the past, only large corporations and governments could perform dangerous bio-design work; today, with available tools, easily accessible biological databases, and AI support, the possibility of a catastrophic pandemic occurring is quite high – perhaps even higher than that of a nuclear war.

In 2025, researchers predicted that with the help of AI, the risk of a global pandemic (or biological attack) is five times higher than in the past. The vision is millions of lives lost, a collapsed global economy, disrupted supply chains, children unable to attend school, and even sharper political polarization. The consequences and impacts would take a long time to overcome, much like how we are still dealing with the effects of the Covid pandemic five or six years later.

4. Deepfakes and the Collapse of Trust

Society is entering a phase where we are increasingly skeptical of what we hear and see on social media and in the news. AI-generated videos, audio clips, and images are becoming so lifelike that it is difficult for the average person to distinguish between truth and falsehood. From voice spoofing to face-swapping and avatars, these AI techniques will certainly be used for fraud, propaganda, and psychological manipulation.

In political and social terms, this is a major threat. If any recording, image, or film can be faked, then authentic evidence can also be dismissed as a fabrication. This phenomenon is an example of the “liar’s dividend.” In an environment saturated with lies, those caught in actual wrongdoing can simply deny everything and blame AI manipulation.

Researchers have found that even when people are clearly and repeatedly warned about deepfake content, they are still influenced by it. For thousands of years, humans have placed trust in what they “see and hear,” and now we are trying to train our brains not to immediately believe our eyes and ears – an incredibly difficult task because it goes against natural biological evolution.

A society that must constantly struggle with fake news and deepfakes will find it increasingly difficult to reach a common consensus on the truth. Without this consensus, social divisions will deepen; policies, legal regulations, and crisis management will become harder to implement, easily leading to a paralyzed society that cannot function effectively.

5. Risks from AI Making Decisions Beyond Control

As AI systems become more sophisticated and AI agents prove their efficiency, we face a new headache: it is becoming harder to control AI decisions, especially when we grant them autonomy in tasks like processing requests, approving transactions, operational planning, and interacting with other software or AI agents. On the surface, this is useful because AI can act on behalf of humans, saving time, money, and effort. But we simultaneously face a major risk: even if the AI is “obedient” and does exactly what it was taught, the final result may not be the result we desired.

Take a small example. An AI agent is trained in customer service with the motto that it must serve wholeheartedly so that the customer satisfaction index reaches the highest level. This AI employee quickly realizes that if it accepts every refund request from customers, it will receive the best service score. Consequently, it automatically accepts refund requests without carefully considering whether they are reasonable or follow company policy; it only cares about making the customer happy. As a result, the company gains a reputation for excellent service but, in reality, suffers unnecessary financial losses.

When an AI system is optimized for one goal but lacks the necessary nuance and adjustment, if applied on a larger scale, it could lead to unforeseen disasters. The real danger does not lie in AI “rebelling” or “disobeying,” but rather in the fact that they are “too obedient” to us, and we trust their decisions without close supervision.

The risks above show that while AI’s potential to benefit humanity is vast, its capacity for destruction and disaster is equally significant. For AI to serve us best, safeguards and preventive measures must be developed rapidly alongside the technology itself. This means cybersecurity must be stronger, AI decisions must be monitored more seriously and frequently, biotechnology must be more strictly regulated, and methods to verify the authenticity of all forms of media on social platforms are needed.

The time for asking whether AI will change human civilization has passed, as it is already happening. The question now is whether we can build the institutions, rules, and public awareness to ensure that this change leads to prosperity rather than instability or collapse.

---

Mặt Trái của Trí Tuệ Nhân Tạo

Khi nói về khả năng của Trí tuệ Nhân tạo (AI – Artificial Intelligence) tiêu diệt loài người, nhiều người trong chúng ta không khỏi liên tưởng đến những con robot mặt mũi hung ác trong The Terminator, lăm lăm cầm súng đi săn lùng để tiêu diệt cho đến con người cuối cùng trên Trái đất. Một viễn ảnh thật đáng sợ, phải không?

Trong thực tế, mọi sự có lẽ sẽ không đi đến một kịch bản nhiều gay cấn như vậy, và với tư cách một người tương đối lạc quan về tương lai của loài người và AI, tôi tin sự lợi ích mà AI đem lại cho chúng ta sẽ nhiều hơn là những tiêu cực và tai hại. Tuy vậy, điều đó không có nghĩa là tôi thờ ơ với những cảnh báo về các xáo trộn, biến động và thậm chí đại họa ở diện rộng mà AI có thể gây ra, và bài viết này chính là để nói về những nguy cơ đó.

Có thể bạn sẽ thấy bất an và bi quan sau khi đọc những điều này. Có thể bạn sẽ đi đến kết luận là chúng ta nên dừng mọi phát triển về AI ngay tại đây. Nhưng đó không phải là mục đích của tôi. AI, cũng như lửa, có lợi ích to lớn, và cũng có khả năng hủy diệt mạnh mẽ. Hãy dùng nó một cách cẩn trọng và có trách nhiệm, song song với các biện pháp an toàn cần thiết.        

Sau đây là những mối đe dọa từ AI, hoặc con người và AI, trong tương lai gần:

1. Sự mất ổn định của hệ thống tài chính

Hiện giờ, có đến 60-70% các giao dịch chứng khoán là được thực hiện bởi các thuật toán, và những thuật toán này ra quyết định chuyển dịch hàng tỉ dollars trong tích tắc, với tốc độ mà không một người nào có thể theo kịp. Khi AI thâm nhập sâu hơn vào các hệ thống giao dịch, sự nguy hiểm không chỉ nằm ở việc tự động hóa, mà còn là ở sự đồng nhất – mà giới nghiên cứu đặt cho thuật ngữ “AI monoculture.”

Thế nào là “AI monoculture?” Đó là tình trạng khi mà những hệ thống AI được huấn luyện trên cùng những dữ liệu và theo đuổi cùng một mục tiêu, thì chúng có thể phản ứng và hành động một cách cực kỳ đồng bộ trước một tín hiệu nào đó của thị trường. Trong điều kiện bình thường, AI monoculture là một điều lợi; nhưng ở vào bối cảnh khủng hoảng, thì nó có thể là thảm họa. Một tín hiệu thị trường mang tính tiêu cực và bất ngờ có thể kích hoạt hàng ngàn hệ thống AI bán tháo cùng một lúc, gây ra sự “sụp đổ chớp nhoáng” (flash crash) và xóa sạch một lượng giá trị khổng lồ chỉ trong vài phút.

Ở những thị trường mà một số ít các tập đoàn, doanh nghiệp quy mô lớn có quá nhiều ảnh hưởng, thì AI monoculture đặc biệt tai hại. Nếu các hệ thống AI đồng loạt quyết định rằng những công ty đó có định giá quá cao hoặc chịu nhiều rủi ro, quyết định của chúng có thể đưa đến những hậu quả lan rộng vượt khỏi biên giới của thị trường chứng khoán, ảnh hưởng đến lương hưu, tài khoản tiết kiệm, đầu tư kinh doanh và niềm tin của người dân đối với nền kinh tế.

2. Những cuộc tấn công mạng nhắm vào các cơ sở hạ tầng trọng yếu

Nếu những chao đảo, biến động của thị trường chứng khoán gây ra bởi các thuật toán AI chỉ ảnh hưởng một bộ phận dân chúng, thì những cuộc tấn công khiến các cơ sở hạ tầng trọng yếu bị tê liệt và ngưng hoạt động sẽ ảnh hưởng toàn thành phố, toàn tỉnh và thậm chí toàn quốc. Hãy tưởng tượng một ngày thành phố nơi bạn cư trú bị mất điện, nguồn cung cấp nước bị gián đoạn, các dịch vụ y tế bị vô hiệu hóa, và các mạng lưới thông tin bị đánh sập để không còn ai liên lạc được với ai – khả năng những điều này xảy ra càng ngày càng cao với sự hổ trợ của AI.

Dĩ nhiên, AI không tự dưng tấn công những cơ sở hạ tầng như thế, nhưng những phần tử xấu và khủng bố hoàn toàn có thể lợi dụng sức mạnh của AI để thiết kế những câu lệnh và kế hoạch tấn công tinh vi. Đã qua rồi cái thời mà kẻ xấu chỉ dùng AI để lừa bạn nhấn vào đường link trong email nhằm đánh cắp thông tin cá nhân hoặc tài chính; ngày nay, (nếu muốn) chúng có thể dùng AI để truy quét, tìm ra điểm yếu nhất của một lưới điện, một nhà máy xử lý nước, và một hệ thống y tế, và từ đó đồng loạt tấn công ba cơ sở này.

Điều đáng nói ở đây là cán cân đang nghiêng về lực lượng tấn công, vì hai nguyên nhân sau:

Thứ nhất, trong khi những hệ thống và cơ sở hạ tầng trọng yếu này phải tiêu tốn cả tỉ dollars cho việc phòng vệ và bảo mật, thì những cuộc tấn công được AI hổ trợ này chỉ tốn vài chục ngàn dollars là có thể thành công.

Thứ hai, những người phòng thủ phải bảo vệ mọi ngõ ngách, mọi điểm yếu có thể của một hệ thống, trong khi kẻ tấn công chỉ cần tìm thấy một điểm yếu duy nhất. Trong quá khứ, để tìm điểm yếu như thế thì cần đến một đội ngũ tin tặc làm việc cả vài tuần hoặc thậm chí vài tháng. Nhưng hiện nay, AI chỉ cần một vài ngày hoặc vài giờ là có thể tìm ra những lỗ hổng bảo mật mà con người hoàn toàn không ngờ đến.

Những tiện nghi mà chúng ta đang thụ hưởng trong đời sống hiện nay, như điện, nước, Internet, các dịch vụ chăm sóc sức khỏe, v.v… vì thế, hoàn toàn có thể bị gián đoạn bất cứ lúc nào. Điều đó chưa xảy ra, lắm khi rào cản duy nhất chính là vì các phần tử xấu chưa muốn tạo ra những biến cố như vậy thôi.

3. Khả năng tiếp cận vũ khí sinh học trở nên dễ dàng hơn

Trong quá khứ, các tổ chức khủng bố nếu muốn chế tạo vũ khí sinh học thì cần một số điều kiện: một vài khoa học gia với khả năng chuyên môn cao, một phòng thí nghiệm với các máy móc, trang bị đắt tiền, cùng một môi trường được kiểm soát chặt chẽ. Đây là một rào cản quan trọng trong việc ngăn ngừa kẻ xấu thiết kế các tác nhân sinh học nguy hiểm. Nhưng hiện nay, AI đã giảm một phần nào rào cản này.

Khi các hệ thống AI có thể mô phỏng DNA, protein và các mầm bệnh và giúp các nhà nghiên cứu tạo nên những đột phá y học, thì cũng là lúc chúng hoàn toàn có thể giúp những kẻ xấu thiết kế độc tố, thao túng trình tự di truyền hoặc tìm cách vượt qua các rào cản an toàn. Đây là ví dụ điển hình của con dao hai lưỡi: AI có thể đẩy nhanh quá trình tìm ra phương pháp chữa bệnh, và nó cũng có thể đẩy nhanh việc chế tạo độc tố và mầm bệnh. Trong quá khứ, chỉ những tập đoàn lớn và chính phủ là có thể thực hiện các công việc thiết kế sinh học mang tính nguy hiểm; nhưng ngày nay, với các công cụ có sẵn, các cơ sở dữ liệu sinh học mà công chúng dễ dàng tiếp cận, và sự hổ trợ của AI, khả năng một trận dịch thảm khốc xảy ra là khá cao. Thậm chí là cao hơn cả một cuộc chiến tranh nguyên tử.

Năm 2025, các nhà nghiên cứu tiên đoán rằng với sự giúp sức của AI, một trận đại dịch (hoặc tấn công sinh học) toàn cầu có nguy cơ xảy ra gấp năm lần so với trong quá khứ. Viễn ảnh là hàng triệu người bị thiệt mạng, nền kinh tế toàn cầu bị đánh sập, những chuỗi cung ứng bị gián đoạn, trẻ em không thể đến trường, và các phân cực chính trị sẽ càng gay gắt hơn. Hậu quả và ảnh hưởng sẽ cần một thời gian dài để vượt qua, như hiện nay chúng ta vẫn còn phải đối diện với ảnh hưởng của dịch Covid năm, sáu năm về trước.

4. Deepfakes và sự sụp đổ niềm tin

Xã hội hiện đang tiến đến một giai đoạn khi mà chúng ta càng ngày càng nghi ngờ những gì ta nghe, thấy trên các nền tảng xã hội và các phương tiện truyền thông. Các video, đoạn âm thanh và hình ảnh do AI tạo ra đang ngày càng trở nên y như thật đến mức người bình thường khó có thể phân biệt đâu là thật, đâu là giả. Từ việc giả mạo giọng nói cho đến hoán đổi khuôn mặt và các hình đại diện, những kỹ thuật này của AI chắc chắn sẽ bị dùng vào trong những việc như lừa đảo, tuyên truyền và thao túng tâm lý.

Ở phương diện chính trị và xã hội, đây là một mối nguy lớn. Nếu bất kỳ bản ghi âm, hình hoặc phim ảnh nào cũng có thể bị làm giả, thì những bằng chứng xác thực cũng có thể bị bác bỏ là giả mạo. Hiện tượng này là một ví dụ của “liar’s dividend” – tạm dịch là “lợi thế của kẻ nói dối.” Trong một môi trường mà đầy dẫy những sự dối trá, thì những người bị bắt quả tang có hành vi sai trái thật sự có thể chối bay chối biến và đổ lỗi cho sự thao túng của AI.

Các nhà nghiên cứu phát hiện ra là ngay cả khi một người đã được cảnh báo rõ ràng và nhiều lần về các nội dung deepfake, họ vẫn bị các nội dung đó ảnh hưởng. Từ bao ngàn năm nay, con người luôn đặt sự tin tưởng vào những gì “tai nghe, mắt thấy,” và giờ đây chúng ta đang tập tành bắt não bộ đừng nên vội tin đôi mắt và đôi tai của mình – một việc làm vô cùng khó khăn vì nó đi ngược lại với sự tiến hóa sinh học tự nhiên của con người.

Một xã hội mà phải thường xuyên vật lộn với tin giả và deepfakes thì việc đi đến một đồng thuận chung về sự thật sẽ càng lúc càng khó khăn hơn. Thiếu sự đồng thuận chung này thì những chia rẽ xã hội sẽ càng sâu sắc hơn; các chính sách, quy định pháp luật, và quản lý khủng hoảng, v.v… sẽ càng khó thực hiện hơn, dễ dẫn đến một xã hội tê liệt, không thể vận hành một cách hiệu quả.

5. Rủi ro từ việc AI tự đưa ra quyết định ngoài tầm kiểm soát

Khi các hệ thống AI trở nên tinh vi hơn và các tác nhân AI (AI agents) chứng tỏ khả năng làm việc hiệu quả hơn, thì cũng là lúc chúng ta đối diện với một vấn đề nhức đầu mới: đó là chúng ta càng ngày càng khó kiểm soát những quyết định của AI, nhất là khi ta trao cho chúng quyền tự quyết định ở những việc như xử lý yêu cầu, phê duyệt giao dịch, lập kế hoạch vận hành và tương tác với các phần mềm hoặc tác nhân AI khác. Trên bề mặt, đây là một điều hữu ích vì AI có thể thay mặt con người làm rất nhiều việc, tiết kiệm bao nhiêu tiền, thời gian và công sức. Nhưng cùng lúc ta phải đối mặt với một rủi ro lớn, đó là tuy AI đã nghe lời, thực hiện chính xác những gì nó được dạy bảo, nhưng kết quả cuối cùng chưa chắc là kết quả mà ta mong muốn.

Lấy một ví dụ nhỏ. Một tác nhân AI được huấn luyện trong khâu phục vụ khách hàng với phương châm là phải phục vụ thật tận tâm để chỉ số hài lòng của khách đạt mức cao nhất. Nhân viên AI này nhanh chóng nhận ra rằng, nếu nó chấp nhận mọi yêu cầu đòi hoàn tiền từ khách hàng thì nó sẽ nhận được điểm phục vụ tốt nhất. Và như vậy nó cứ tự động chấp nhận các yêu cầu đòi hoàn tiền mà không xem xét kỹ lưỡng là các yêu cầu ấy có hợp lý hoặc có theo đúng chính sách của công ty hay không; nó chỉ biết làm sao cho khách hàng vui lòng là đủ. Kết quả công ty được tiếng tăm là phục vụ khách hàng một cách xuất sắc, nhưng trong thực tế là phải gánh chịu những tổn thất không đáng có.

Khi một hệ thống AI được tối ưu hóa cho một mục tiêu nhưng lại thiếu sự nhạy bén và điều chỉnh cần thiết, nếu xảy ra ở trên quy mô rộng lớn hơn thì có thể sẽ dẫn đến những tai họa không ai lường trước được. Mối nguy hiểm thật sự không nằm ở chỗ AI “nổi loạn” hay “không nghe lời,” mà chính là chúng đã “quá nghe lời” chúng ta, và ta thì lại tin tưởng các quyết định của chúng mà không giám sát chặt chẽ.

Những mối nguy cơ trên cho thấy trong khi tiềm năng mang lại lợi ích cho loài người của AI là rất lớn, thì khả năng hủy diệt và mang lại tai họa của nó cũng không hề nhỏ. Để AI phục vụ chúng ta một cách tốt nhất thì các biện pháp bảo vệ và phòng ngừa cần được phát triển nhanh chóng song song với sự phát triển của chính bản thân công nghệ. Điều đó có nghĩa là an ninh mạng cần phải tốt và chặt chẽ hơn, các quyết định của AI cần được giám sát nghiêm túc và thường xuyên hơn, công nghệ sinh học phải được kiểm tra nghiêm ngặt hơn, và cần những phương pháp xác minh tính xác thực của mọi hình thức nghe, nhìn trên các nền tảng xã hội.

Đã qua rồi cái thời mà con người đặt câu hỏi là liệu AI sẽ làm thay đổi nền văn minh nhân loại hay không, vì điều đó đã và đang xảy ra. Câu hỏi hiện giờ là liệu chúng ta có thể xây dựng các thiết chế, quy tắc và nhận thức cộng đồng để có thể đảm bảo rằng sự thay đổi đó sẽ dẫn đến thịnh vượng, thay vì bất ổn hoặc sụp đổ.