Vina Technology at AI time - Công nghệ Việt Nam thời AI Lê Quang Văn

Giám sát quốc gia của Trung Quốc thu thập dữ liệu - Công nghệ quan trọng của Mỹ để giải mã nó

New York Times. Lê Quang Văn dịch, giải thích và thực hiện phần kỹ thuật số.

Ở cuối một con đường hoang tàn, bao quanh bởi nhà tù, sâu trong một khu phức hợp đầy camera, công nghệ Mỹ đang cung cấp sức mạnh cho một trong những địa điểm tiên tiến nhất của tình trạng giám sát của nhà nước Trung Quốc.

Các máy tính bên trong khu phức hợp, được biết đến với tên gọi Trung tâm Máy tính Đám mây Urumqi, thuộc loại mạnh nhất thế giới. Chúng có thể xem nhiều hình ảnh giám sát trong một ngày hơn là một người có thể trong một năm. Chúng tìm kiếm khuôn mặt và các mẫu hành vi con người. Chúng theo dõi các xe ô tô. Chúng giám sát điện thoại.

Chính phủ Trung Quốc sử dụng những máy tính này để giám sát một số lượng không biết rõ về số lượng người ở Tân Cương, một khu vực phía tây của Trung Quốc nơi Bắc Kinh đã triển khai một chiến dịch giám sát và đàn áp dưới cái danh nghĩa là chống khủng bố.

Các chip do Intel và Nvidia, các công ty bán dẫn Mỹ, đã cung cấp sức mạnh cho khu phức hợp này kể từ khi nó mở cửa vào năm 2016. Đến năm 2019, vào thời điểm mà các báo cáo nói rằng Bắc Kinh đang sử dụng công nghệ tiên tiến để giam giữ và theo dõi nhóm dân tộc Hồi giáo tại Tân Cương, các chip Mỹ mới đã giúp nó được ghi vào danh sách các siêu máy tính nhanh nhất thế giới. Cả Intel và Nvidia đều nói rằng họ không biết về những gì họ gọi là lạm dụng công nghệ của hai công ty.

Công nghệ mạnh mẽ và khả năng lạm dụng tiềm ẩn đi vào cốt lõi của các quyết định mà chính phủ Biden phải đối mặt. Chính phủ Trump đã cấm bán các chip bán dẫn tiên tiến và các công nghệ khác cho các công ty Trung Quốc liên quan đến vấn đề an ninh quốc gia hoặc nhân quyền. Một câu hỏi quan trọng đối với Tổng thống đắc cử Joe Biden sẽ là liệu có nên cứng rắn, nới lỏng hoặc suy nghĩ lại những hạn chế đó.

Một số nhân vật trong ngành công nghệ lập luận rằng lệnh cấm đã đi quá xa, cắt đứt các bán hàng giá trị của sản phẩm Mỹ với rất nhiều ứng dụng vô hại và thúc đẩy Trung Quốc tạo ra các chip bán dẫn tiên tiến của riêng họ. Thật vậy, Trung Quốc đang chi hàng tỷ đô la để phát triển các chip cao cấp.

Ngược lại, những người phê phán việc sử dụng công nghệ Mỹ trong các hệ thống đàn áp cho rằng các người mua khai thác các phương án vượt lệnh cấm và rằng ngành công nghiệp và các quan chức nên theo dõi bán hàng và việc sử dụng chặt chẽ hơn.

Các công ty thường chỉ ra rằng họ không có quyền quyết định nơi mà sản phẩm của họ kết thúc. Các chip trong khu phức hợp Urumqi, ví dụ, được bán bởi Intel và Nvidia cho Sugon, công ty Trung Quốc ủng hộ trung tâm này. Sugon là một nhà cung cấp quan trọng cho lực lượng quân sự và an ninh Trung Quốc, nhưng nó cũng sản xuất máy tính cho các công ty dân sự.

Lập luận đó không còn đủ tốt nữa, theo Jason Matheny, giám đốc sáng lập của Trung tâm Công nghệ Bảo mật và Nổi bật của Đại học Georgetown và một quan chức tình báo Mỹ trước đây.

"Chính phủ và ngành công nghiệp cần suy nghĩ sâu hơn bây giờ khi các công nghệ đang phát triển đến mức bạn có thể thực hi

A National Security Insider Does the Math on the Dangers of AI

Jason Matheny, CEO of the influential think tank Rand Corporation, says advances in AI are making it easier to learn how to build biological weapons and other tools of destruction.

Lauren Goode, Senior writer, WIRED. April 23, 2024

And what do you see as our greatest adversary in biorisks?

First is nature. The evolution of natural viruses continues. We're going to have future viral pandemics. Some of them are going to be worse than Covid, some of them are going to be not as bad as Covid, but we've got to be resilient to both. Covid cost just the US economy more than $10 trillion, and yet what we invest in preventing the next pandemic is maybe $2 billion to $3 billion of federal investment.

Another category is intentional biological attacks. Aum Shinrikyo was a doomsday cult in Japan that had a biological weapons program. They believed that they would be fulfilling prophecy by killing everybody on the planet. Fortunately, they were working with 1990s biology, which wasn't that sophisticated. Unfortunately, they then turned to chemical weapons and launched the Tokyo sarin gas attacks.

The barrier to entry for somebody who wants to carry out a biological attack is eroding.

We have individuals and groups today that have mass-casualty intent and increasingly express interest in biology as a weapon. What's preventing them from being able to use biology effectively are not controls on the tools or the raw materials, because those are all now available in many laboratories and on eBay—you can buy a DNA synthesizer for much less than $100,000 now. You can get all the materials and consumables that you need from most scientific supply stores.

What an apocalyptic group would lack is the know-how to turn those tools into a biological weapon. There’s a concern that AI makes the know-how more widely available. Some of the research done by [AI safety and research company] Anthropic has looked at risk assessments to see if these tools could be misused by somebody who didn't have a strong bio background. Could they basically get graduate-level training from a digital tutor in the form of a large language model? Right now, probably not. But if you map the progress over the last couple of years, the barrier to entry for somebody who wants to carry out a biological attack is eroding.

Part 1 - A National Security Insider - 8000

So … we should remind everyone there’s an open bar tonight.

Unhappy hour. We’ll pick up the tab.

Right now everyone is talking about AI and a super artificial intelligence potentially overtaking the human race.

That's going to take a stiffer drink.

You are an effective altruist, correct?

According to the newspapers, I am.

Is that how you would describe yourself?

I don't think I've ever self-identified as an effective altruist. And my wife, when she read that, she was like, “You are neither effective nor altruistic.” But it is certainly the case that we have effective altruists at Rand who have been very concerned about AI safety. And it is a community of people who have been worried about AI safety longer than many others, in part because a lot of them came from computer science.

So you're not an effective altruist, you're saying, but are someone who's been very cautious about AI for a long time, like some effective altruists are. What was it that made you think years ago that we needed to be cautious about unleashing AI into the world?

I think it was when I realized that so much of what we depend on protecting us from the misuse of biology is knowledge. [AI] that can make highly specialized knowledge easier to acquire without guardrails is not an unequivocal good. Nuclear knowledge will be created. So will biological weapon knowledge. There will be cyber weapon knowledge. So we have to figure out how to balance the risks and benefits of tools that can create highly specialized knowledge, including knowledge about weapons syst

Một người trong cuộc về an ninh quốc gia thực hiện phép toán về sự nguy hiểm của AI – Phần 2

Lê Quang Văn dịch, giải thích và thực hiện phần kỹ thuật số.

Một loại rủi ro mà bạn đã rất quan tâm trong một thời gian dài là "rủi ro sinh học". Điều tồi tệ nhất có thể xảy ra là gì? Hãy giải thích cho chúng tôi vấn đề đó.

Tôi bắt đầu làm việc trong lĩnh vực y tế công cộng trước khi tôi làm việc trong lĩnh vực an ninh quốc gia, làm việc về kiểm soát bệnh truyền nhiễm - sốt rét và bệnh lao. Năm 2002, virus đầu tiên được tổng hợp từ đầu trong một dự án Darpa, và đó là một khoảnh khắc "thật tào lao" đối với khoa học sinh học và cộng đồng y tế công cộng, nhận ra sinh học sẽ trở thành một ngành kỹ thuật có khả năng bị lạm dụng. Tôi đã làm việc với các cựu chiến binh của chiến dịch loại trừ bệnh đậu mùa, và họ nghĩ, "Tào lao, chúng tôi vừa dành nhiều thập kỷ để loại bỏ một căn bệnh mà bây giờ có thể được tổng hợp từ đầu."

Có rất nhiều lỗ hổng trong xã hội. Covid là một minh chứng cho điều đó.

Sau đó tôi chuyển sang làm việc trong lĩnh vực an toàn sinh học, cố gắng tìm ra, Làm thế nào chúng ta có thể tăng cường an ninh xung quanh các phòng thí nghiệm sinh học để chúng ít có khả năng được sử dụng cho các mục đích có khả năng gây hại? Làm thế nào chúng ta có thể phát hiện các chương trình vũ khí sinh học? Thật không may, vẫn tồn tại với số lượng đáng kể ở một vài nơi trên thế giới. Ngoài ra, làm thế nào chúng ta có thể mang lại nhiều an ninh hơn cho xã hội để chúng ta kiên cường hơn khi nói đến không chỉ một đại dịch được thiết kế mà còn cả đại dịch tự nhiên?

Có rất nhiều lỗ hổng vẫn còn trong xã hội. Covid là một minh chứng cho điều này. Đây là một loại virus tương đối nhẹ trong lịch sử - nó có tỷ lệ tử vong do nhiễm trùng dưới 1% - trong khi có một số loại virus tự nhiên có tỷ lệ tử vong trên 50%. Có những loại virus tổng hợp có khả năng gây chết người gần 100% trong khi vẫn có khả năng lây truyền như SARS-CoV-2. Mặc dù chúng ta biết cách thiết kế và sản xuất vắc-xin rất nhanh, nhưng để chúng được phê duyệt ngày nay mất nhiều thời gian như khoảng 20 năm trước. Vì vậy, lượng thời gian mà bạn cần để tiêm chủng cho dân số ngày nay cũng giống như đối với cha mẹ và thậm chí đối với ông bà của chúng ta.

Khi tôi lần đầu tiên bắt đầu quan tâm đến an toàn sinh học vào năm 2002, chi phí hàng triệu đô la để tạo ra một loại virus bại liệt, một loại virus rất, rất nhỏ. Sẽ tốn gần 1 tỷ USD để tổng hợp một loại virus đậu mùa, một loại virus rất lớn. Ngày nay, chi phí ít hơn 100.000 đô la, vì vậy nó đã giảm 10.000 lần trong khoảng thời gian đó. Trong khi đó, chi phí cho vắc xin đã thực sự tăng gấp ba lần trong giai đoạn đó. Sự bất cân xứng giữa phòng ngự và tấn công đang đi sai hướng.

Và bạn thấy điều gì là đối thủ lớn nhất của chúng ta trong rủi ro sinh học?

Đầu tiên là thiên nhiên. Sự tiến hóa của virus tự nhiên vẫn tiếp tục. Chúng ta sẽ có những đại dịch virus trong tương lai. Một số trong số chúng sẽ tồi tệ hơn Covid, một số trong số chúng sẽ không tệ như Covid, nhưng chúng ta phải kiên cường với cả hai. C

A National Security Insider Does the Math on the Dangers of AI

Jason Matheny, CEO of the influential think tank Rand Corporation, says advances in AI are making it easier to learn how to build biological weapons and other tools of destruction.

Lauren Goode, Senior writer, WIRED. April 23, 2024

Jason Matheny is a delight to speak with, provided you’re up for a lengthy conversation about potential technological and biomedical catastrophe.

Now CEO and president of Rand Corporation, Matheny has built a career out of thinking about such gloomy scenarios. An economist by training with a focus on public health, he dived into the worlds of pharmaceutical development and cultivated meat before turning his attention to national security.

As director of Intelligence Advanced Research Projects Activity, the US intelligence community's research agency, he pushed for more attention to the dangers of biological weapons and badly designed artificial intelligence. In 2021, Matheny was tapped to be President Biden’s senior adviser on technology and national security issues. And then, in July of last year, he became CEO and president of Rand, the oldest nonprofit think tank in the US, which has shaped government policy on nuclear strategy, the Vietnam War, and the development of the internet.

Matheny talks about threats like AI-enabled bioterrorism in convincing but measured tones, Mr. Doomsday in a casual suit. He’s steering Rand to investigate the daunting risks to US democracy, map out new strategies around climate and energy, and explore paths to “competition without catastrophe” in China. But his long-time concerns about biological weapons and AI remain top of mind.

Onstage with WIRED at the recent Verify cybersecurity conference in Sausalito, California, hosted by the Aspen Institute and Hewlett Foundation, he warned that AI is making it easier to learn how to build biological weapons and other potentially devastating tools. (There’s a reason why he joked that he would pick up the tab at the bar afterward.) The conversation has been edited for length and clarity.

Lauren Goode: To start, we should talk about your role at Rand and what you’re envisioning for the future there. Rand has played a critical role in a lot of US history. It has helped inform, you know, the creation of the internet—

Jason Matheny: We’re still working out the bugs.

Right. We’re going to fix it all tonight. Rand has also influenced nuclear strategy, the Vietnam War, the space race. What do you hope that your tenure at Rand will be defined by?

There’s three areas that I really want to help grow. First, we need a framework for thinking about what [technological] competition looks like without a race to the bottom on safety and security. For example, how can we assure competition with China without catastrophe? A second area of focus is thinking about how we can map out a climate and energy strategy for the country, in a way that is acceptable to our technology requirements, the infrastructure that we have and are building, and gets the economics right.

And then a third area is understanding the risks to democracy right now, not just in the United States but globally. We're seeing an erosion of norms in how facts and evidence are treated in policy debates. We have a set of very anxious researchers at Rand who are seeing this decay of norms. I think that's something that's happening not just in the United States but globally, alongside a resurgence of variants of autocracy.

One type of risk you’ve been very interested in for a long time is “biorisk.” What’s the worst thing that could possibly happen? Take us through that.

I started out in public health before I worked in national security, working on infectious disease control—malaria and tuberculosis. In 2002, the first virus was synthesized from scratch on a Darpa project, and it was sort of an “oh crap” moment for the biosciences and the public health community, real

Một người trong cuộc về an ninh quốc gia thực hiện phép toán về sự nguy hiểm của AI – Phần 1

Jason Matheny, Giám đốc điều hành của tổ chức tư vấn có ảnh hưởng Rand Corporation, cho biết những tiến bộ trong AI đang giúp việc học cách chế tạo vũ khí sinh học và các công cụ hủy diệt khác trở nên dễ dàng hơn.

Lauren Goode, Senior writer, WIRED. Ngày 23 tháng 4, 2024. Lê Quang Văn dịch, giải thích và thực hiện phần kỹ thuật số.

Jason Matheny rất vui khi được nói chuyện, miễn là bạn sẵn sàng cho một cuộc trò chuyện dài về thảm họa công nghệ và y sinh tiềm ẩn.

Bây giờ là Giám đốc điều hành và chủ tịch của Rand Corporation, Matheny đã xây dựng sự nghiệp từ suy nghĩ về những kịch bản ảm đạm như vậy. Là một nhà kinh tế học được đào tạo tập trung vào sức khỏe cộng đồng, ông đã đi sâu vào thế giới phát triển dược phẩm và thịt trồng trọt trước khi chuyển sự chú ý sang an ninh quốc gia.

Là giám đốc của Hoạt động Dự án Nghiên cứu Tiên tiến Tình báo (IARPA - Intelligence Advanced Research Projects Activity), cơ quan nghiên cứu của cộng đồng tình báo Mỹ, ông đã thúc đẩy sự chú ý nhiều hơn đến sự nguy hiểm của vũ khí sinh học và trí tuệ nhân tạo được thiết kế tồi. Năm 2021, Matheny được chọn làm cố vấn cấp cao của Tổng thống Biden về các vấn đề công nghệ và an ninh quốc gia. Và sau đó, vào tháng Bảy năm ngoái, ông trở thành CEO và chủ tịch của Rand, tổ chức tư vấn phi lợi nhuận lâu đời nhất ở Mỹ, nơi đã định hình chính sách của chính phủ về chiến lược hạt nhân, Chiến tranh Việt Nam và sự phát triển của internet.

Matheny nói về các mối đe dọa như khủng bố sinh học hỗ trợ AI bằng giọng điệu thuyết phục nhưng có chừng mực, ông báo động các mối đe dọa được thảo luận. Ông đang chỉ đạo Rand điều tra những rủi ro khó khăn đối với nền dân chủ Mỹ, vạch ra các chiến lược mới xung quanh khí hậu và năng lượng, và khám phá các con đường dẫn đến "cạnh tranh mà không thảm họa" ở Trung Quốc. Nhưng mối quan tâm lâu dài của ông về vũ khí sinh học và AI vẫn được quan tâm hàng đầu.

Trên sân khấu với WIRED tại hội nghị an ninh mạng Verify gần đây ở Sausalito, California, do Viện Aspen và Quỹ Hewlett tổ chức, ông cảnh báo rằng AI đang giúp học cách chế tạo vũ khí sinh học và các công cụ có khả năng tàn phá khác dễ dàng hơn. (Có một lý do tại sao ông ấy nói đùa rằng ông ấy sẽ chọn tab ở quán bar sau đó.) Cuộc trò chuyện đã được chỉnh sửa cho dài và rõ ràng.

Lauren Goode: Để bắt đầu, chúng ta nên nói về vai trò của bạn tại Rand và những gì bạn đang hình dung cho tương lai ở đó. Rand đã đóng một vai trò quan trọng trong rất nhiều lịch sử Hoa Kỳ. Nó đã giúp thông báo, bạn biết đấy, việc tạo ra internet—

Jason Matheny: Chúng tôi vẫn đang tìm ra lỗi.

Đúng như vậy. Chúng ta sẽ thảo luận tất cả các vấn đề tối nay. Rand cũng đã ảnh hưởng đến chiến lược hạt nhân, Chiến tranh Việt Nam, cuộc chạy đua không gian. Bạn hy vọng rằng nhiệm kỳ của bạn tại Rand sẽ được xác định bởi điều gì?

Có ba lĩnh vực mà tôi thực sự muốn giúp phát triển. Đầu tiên, chúng ta cần một khuôn khổ để suy nghĩ về cạnh tranh [công nghệ] trông như thế nào mà không có một cuộc

1 - Explain to a high school student, what is: "E-diasporas" and "Hyperconnected Diasporas"

Sure! Let's break it down:

1. E-diasporas: This term refers to diasporas (communities of people who have moved away from their original homeland and are scattered around the world) that are connected through electronic or digital means. In simpler terms, it's talking about communities of people who are spread out across different countries but stay connected through the internet, social media, or other digital platforms. So, instead of just relying on physical gatherings or letters to stay in touch, members of these diasporas use technology to communicate and maintain their sense of community.

2. Hyperconnected Diasporas: This builds on the idea of e-diasporas but emphasizes an even stronger level of connection. "Hyperconnected" means extremely connected or linked in multiple ways. So, hyperconnected diasporas are communities of people who not only use digital tools to stay in touch but are deeply intertwined through various online and offline channels. This might include things like social media groups, online forums, video calls, email chains, and even in-person gatherings or cultural events organized through digital platforms. In essence, hyperconnected diasporas are incredibly tight-knit communities despite being physically dispersed around the globe.

2 - Using technical terms, describe in detail, to Computer Science students: what technologies are used for "E-diasporas" and "Hyperconnected Diasporas".

Here's a technical breakdown for Computer Science students:

1. E-diasporas:

• Social Media Platforms: E-diasporas heavily utilize social media platforms such as Facebook, Twitter, Instagram, and LinkedIn to maintain connections, share updates, and organize events.

• Online Forums and Communities: Diaspora members often participate in online forums and communities related to their culture, ethnicity, or shared interests. Platforms like Reddit, Discord, and specialized forums serve as virtual gathering places.

• Messaging and Communication Apps: Messaging apps like WhatsApp, Telegram, and WeChat play a crucial role in enabling real-time communication among diaspora members, facilitating group chats, voice calls, and video calls.

• Email and Mailing Lists: Traditional email services and mailing lists are still used for disseminating important information, announcements, and newsletters within diaspora communities.

• Virtual Events and Webinars: E-diasporas organize and participate in virtual events, webinars, and online conferences using platforms like Zoom, Microsoft Teams, and Google Meet to bridge geographical gaps and foster community engagement.

2. Hyperconnected Diasporas:

• Augmented Reality (AR) and Virtual Reality (VR): Hyperconnected diasporas leverage AR and VR technologies to create immersive experiences, enabling members to virtually participate in cultural events, celebrations, and gatherings as if they were physically present.

• Blockchain and Cryptocurrencies: Blockchain technology and cryptocurrencies are used for secure transactions, crowdfunding initiatives, and transparent governance within hyperconnected diasporas, fostering trust and enabling financial inclusivity across borders.

• Decentralized Social Networks: Decentralized social networks based on blockchain technology offer greater privacy, control over personal data, and censorship resistance, providing alternative platforms for diaspora communities to interact without intermediaries.

• Artificial Intelligence (AI) and Machine Learning (ML): AI and ML algorithms are employed to analyze vast amounts of data generated by diaspora communities, providing insights into cultural trends, preferences, and sentiment analysis to better serve their needs and enhance engagement

• Internet of Things (IoT): IoT devices such as wearables, smart home appliances, and sensors facilitate seamless integration and connectivity wit