Vina Technology at AI time - Công nghệ Việt Nam thời AI Lê Quang Văn

人工智能时代的原则

May 27, 2024

佩鲁贾—技术所引发的争议越来越沦为赤裸裸的二选一。人工智能应当加速或者抑制：命题一正一反，但却缺乏综合考虑。与其选边站，我们应当思考将重点放在人性这一真正重要地方的呼吁。



我据此提出六条原则。第一条源自迦太基将军汉尼拔的名言：“要么找一条路，找不到就修。”人工智能仍处于早期阶段，我们还远未见识它的潜能。人工智能可以帮我们找到以前看不到的路，也可以帮我们借助人类创造力成为拓荒者。ChatGPT、Copilot和Pi等工具都是由人类根据材料进行培训的。他们非但不会取代我们，反而能够拓展我们的认知。



想象我们发现了一条贯穿哥德尔、埃舍尔、巴赫、卡拉瓦乔、卢梭和维瓦尔第的此前从未发现的认识线索；就像一根线串起了厨房里的所有原材料。海量的人类创造和曾经的成就就像一块不断延展的挂毯一样悬在我们面前，而现在我们有了工具，可以比前代人做得更好。



第2个原则是，“我们生活在符号中，我们就是符号。”这就是拉尔夫·沃尔多·爱默生对我们使用语言来理解、解释和塑造世界的描述。我们人类一直依赖工具，而工具就是这些符号。我们由此形成的创造此前并不存在，也不是自然发生的。比如狮鹫，头和翅膀像鹰，身体像狮子。它是一种反映我们所希望看到的某种现实的创造。人类出于独特的理由创造了狮鹫。人工智能也是这样。



诚然，许多想象力丰富的作品——从弗兰肯斯坦中玛丽·雪莱的怪物到终结者中詹姆斯·卡梅隆的半机械化杀手——都对人类起警示作用。最初遇见“另一种”或“新”事物时，我们自然而然会有恐惧产生。但狮鹫的例子提醒我们，可以将恐惧转化为一种巨大的可能。归根结底，人类既是符号、文化、环境和决策的缔造者，也是它们的产物。我们可以与人工智能一道创造出更多的狮鹫。



第3条原则是建造教堂，因为它让我们的工作变得神圣，让人们从单纯的结伴逐步朝友谊过渡。现实中的教堂是人类最令人敬畏的创造，因此，现在将阿波罗登月称之为“教堂计划”非常适合。如果它们能像欧洲城市教堂那样，成为我们日常生活的一部分该有多好?



上述计划需要很多人参与，需要跨地区、跨学科，有时甚至是跨越代际的协同。就像作家兼飞行员安托万·德·圣·埃克絮佩里所写道的那样，“教堂由石头组成；但每块石头均因成为教堂的一部分而变得神圣。”人类进步这座教堂中的石头就是科学发现和技术创新。



望远镜、收音机、汽车、电梯、飞机以及现在人工智能的故事都遵循同样的模型。尽管不少人通过最近ChatGPT等商业应用程序才知道人工智能，但我们为今天的成就已经付出了几代创造者的发明。我们需要伟大的计划——既有合作，也有某种健康的竞争——带给我们方向感。我们如何设计和修建教堂反映出我们是谁，以及我们未来的前景。



我们必须甘冒小风险、以求驾驭大风险是第4条原则。与其试图完全消灭风险——这根本不可能——我们应当欢迎可能带来失败的挑战，因为这会带来迭代、反思、讨论和持续的改进。



回顾经济学家海曼·明斯基对金融危机的深刻见地。他认为“稳定”本身就会带来不稳定。金融体系中保障措施过多会加大其脆弱性，而安全的表象则意味着没人能预见到它的崩溃。



人工智能监管领域也适用同样的教训。我们不仅应当鼓励创新，还应当意识到，风险缓和机制就包括（涉及小风险的）试验本身。最终，这些技术广泛

Préceptes pour l'ère de l'IA

Reid Hoffman. Project Syndicate. May 27, 2024

Les débats sur la technologie sont de plus en plus réduits à des dichotomies tranchées. Pour les uns, l’intelligence artificielle devrait être limitée, pour d’autres accélérée. Thèse et antithèse, mais pas de synthèse. Plutôt que de choisir un camp, nous devrions envisager d’autres appels au ralliement, qui placent l’accent là où il se doit : sur l’humanité.

C’est la raison pour laquelle je propose six préceptes. Le premier s’inscrit en phase avec une célèbre formule prononcée par le général carthaginois Hannibal : « Je trouverai un chemin, ou je le tracerai moi-même ». L’intelligence artificielle se situant encore à un stade très précoce, nous avons à peine effleuré la surface de son potentiel. L’IA peut nous aider à trouver des chemins que nous ne parvenions pas à entrevoir auparavant, ainsi qu’à en créer de nouveaux grâce à la force de la créativité humaine. Les outils tels que ChatGPT, Copilot et Pi sont formés autour de données non seulement issues des êtres humains, mais également relatives aux êtres humains. Loin de nous remplacer, ils nous prolongent.

Imaginez bénéficier d’une suite de réflexions auparavant indiscernable, traversant Gödel, Escher, Bach, Caravage, Rousseau et Vivaldi, ou d’un fil conducteur reliant tous les ingrédients dont vous disposez dans votre cuisine. Une immense collection de créations humaines et de contributions passées se présente devant nous telle une toile en perpétuelle expansion, et nous possédons désormais les outils nécessaires pour en tirer parti au-delà de ce qu’aurait pu imaginer n’importe quelle génération précédente.

Deuxième précepte : « Nous sommes des symboles, et nous habitons des symboles ». C’est ainsi que Ralph Waldo Emerson décrivait l’utilisation que nous faisons du langage pour comprendre, expliquer et façonner le monde. Nous, les êtres humains, avons toujours eu recours à des outils, et c’est précisément ce que sont les symboles. Ils nous permettent de créer des choses qui n’existaient pas auparavant, et qui ne se produisent pas naturellement. Songez au griffon, créature légendaire ailée à la tête d’aigle et au corps de lion. Il est une création humaine, reflet d’une certaine réalité que nous aimerions observer dans le monde. Les êtres humains ont créé les griffons pour des raisons exclusivement humaines. L’IA n’y fait pas exception.

Certes, de nombreuses créations issues de l’imagination humaine – du monstre de Mary Shelley dans Frankenstein au cyborg tueur de James Cameron dans Terminator – sont destinées à mettre en garde. Nous éprouvons naturellement de la peur lorsque nous rencontrons pour la première fois ce qui est « autre », ce qui est « nouveau ». Le griffon nous rappelle cependant que nous pouvons transformer cette peur en un sentiment de possibilité majestueuse. En fin de compte, les êtres humains sont à la fois les créateurs et les produits de leurs symboles, de leur culture, de leur environnement et de leurs décisions. Grâce à l’IA, nous pouvons créer de nouveaux griffons.

Le troisième précepte consiste à bâtir des cathédrales, car elles ennoblissent nos efforts, et transforment de simples regroupements d’humanité en véritables communautés. Les cathédrales comptant parmi les plus impressionnantes créations de l’humanité, il est tout à fait approprié que nous désignions désormais des missions telles que l’alunissage d’Apollo comme des « projets cathédrales ». Ne serait-il pas merveilleux que ces projets fassent autant partie de notre vie quotidienne que les cathédrales dans les villes européennes ?

Ces projets nécessitent de nombreuses mains, travaillant de concert à travers les régions, les disciplines et parfois même les générations. Comme l’exprimait l’écrivain et aviateur Antoine de

Maxims for the AI Age

Reid Hoffman. Project Syndicate. May 27, 2024.

Far too often, debates about technology, innovation, and progress fall into crude dichotomies – humans versus machines, utopia versus dystopia – that distract from the matter at hand. Rather than fixating on extremes, we should adopt a more nuanced and historically informed view of our tools, and of ourselves. [The term "utopia versus dystopia" in this context refers to the oversimplification of debates about technology into two extreme outcomes: a perfect, ideal future or a disastrous, oppressive one. The phrase suggests that this binary thinking distracts from more meaningful and nuanced discussions about how to navigate the complexities of technological progress and its real-world impacts.]

Debates about technology have increasingly been reduced to stark dichotomies. Artificial intelligence should be curtailed, or it should be accelerated: thesis and antithesis, but no synthesis. Rather than picking a side, we should consider alternative rallying cries that place the focus where it belongs: humanity.

To that end, I propose six maxims. The first is a famous quip from the Carthaginian general Hannibal: “I shall either find a way or make one.” With AI still at a very early stage, we have barely scratched the surface of its potential. AI can help us find paths that we couldn’t see before, and it can help us make new ones through the force of human creativity. Tools like ChatGPT, Copilot, and Pi are trained on material by and about people. Far from replacing us, they extend us.

Imagine finding a previously indiscernible thread of insight that runs through Gödel, Escher, Bach, Caravaggio, Rousseau, and Vivaldi; or a thread tying together the ingredients you just happen to have in your kitchen. A vast collection of human creation and past contributions hangs before us like an expanding tapestry, and we now have the tools to do more with it than any previous generation ever could.

The second maxim is: “We are symbols, and inhabit symbols.” That is how Ralph Waldo Emerson described our use of language to comprehend, explain, and shape the world. We humans have always relied on tools, and that is what symbols are. They enable us to create things that did not exist before and do not occur naturally. Consider the griffin, with the head and wings of an eagle and the body of a lion. It is a human creation that reflects some reality we want to see in the world. Humans created griffins for uniquely human reasons. AI is no different.

True, many imaginative creations – from Mary Shelley’s monster in Frankenstein to James Cameron’s killer cyborg in Terminator – are meant to be cautionary. We naturally feel fear when initially encountering “the other” or “the new.” But the griffin reminds us that we can convert fear into a sense of majestic possibility. Ultimately, humans are both the creators and the products of their symbols, culture, environment, and decisions. Together with AI, we can create more griffins.

The third maxim is to build cathedrals, as these ennoble our efforts and turn mere groupings of humanity into fellowships. Actual cathedrals are some of humankind’s most awe-inspiring creations, making it only fitting that we now refer to missions like the Apollo moon landing as “cathedral projects.” How great would it be if these were as much a part of our everyday lives as cathedrals are in European cities?

Such projects require many sets of hands, working in concert across regions, disciplines, and sometimes even generations. As the writer and aviator Antoine de Saint-Exupéry wrote, “A cathedral is built with stones; it is made up of stones; but the cathedral ennobles each stone, which becomes a cathedral stone.” Scientific discoveries and technological innovations are stones in the cathedral of human progress.

The stories of the telescope, the radio, the car, the elevator, the airplane, and – now – AI follow

Châm ngôn cho thời đại AI

Reid Hoffman. Dự án Syndicate. Ngày 27 tháng 5 năm 2024. Lê Quang Văn dịch, giải thích và thực hiện phần kỹ thuật số.

Quá thường xuyên, các cuộc tranh luận về công nghệ, đổi mới và tiến bộ rơi vào sự phân đôi thô sơ - con người so với máy móc, không tưởng so với dystopia - làm xao lãng vấn đề trước mắt. [Thuật ngữ "không tưởng so với dystopia" trong bối cảnh này đề cập đến việc đơn giản hóa quá mức các cuộc tranh luận về công nghệ thành hai kết quả cực đoan: một tương lai hoàn hảo, lý tưởng hoặc một thảm họa, áp bức. Cụm từ này cho thấy rằng tư duy nhị phân này làm xao lãng các cuộc thảo luận có ý nghĩa và sắc thái hơn về cách điều hướng sự phức tạp của tiến bộ công nghệ và các tác động trong thế giới thực của nó.]

Thay vì cố định vào các cực đoan, chúng ta nên áp dụng một cái nhìn sắc thái và thông tin lịch sử hơn về các công cụ của chúng ta và về chính chúng ta.

Các cuộc tranh luận về công nghệ ngày càng được giảm xuống thành sự phân đôi rõ ràng. Trí tuệ nhân tạo nên được hạn chế, hoặc nó nên được tăng tốc: luận điểm và phản đề, nhưng không tổng hợp. Thay vì chọn một bên, chúng ta nên xem xét các tiếng kêu tập hợp thay thế đặt trọng tâm vào nơi nó thuộc về: nhân loại.

Để đạt được mục đích đó, tôi đề xuất sáu câu châm ngôn. Đầu tiên là một câu châm biếm nổi tiếng của tướng Carthage Hannibal: "Tôi sẽ tìm ra cách hoặc tạo ra một cách." Với AI vẫn còn ở giai đoạn rất sớm, chúng ta hầu như không làm trầy xước bề mặt tiềm năng của nó. AI có thể giúp chúng ta tìm ra những con đường mà chúng ta không thể nhìn thấy trước đây và nó có thể giúp chúng ta tạo ra những con đường mới thông qua sức mạnh sáng tạo của con người. Các công cụ như ChatGPT, Copilot và Pi được đào tạo về tài liệu bởi con người và về con người. Thay vì thay thế chúng tôi, họ giúp chúng tôi phát triển.

Hãy tưởng tượng tìm thấy một sợi chỉ sâu sắc không thể nhận thấy trước đây chạy qua Gödel, Escher, Bach, Caravaggio, Rousseau và Vivaldi; hoặc một sợi chỉ buộc các thành phần bạn tình cờ có trong nhà bếp của bạn. Một bộ sưu tập khổng lồ về sự sáng tạo của con người và những đóng góp trong quá khứ treo trước mắt chúng ta như một tấm thảm mở rộng, và bây giờ chúng ta có các công cụ để làm nhiều hơn với chúng hơn bất kỳ thế hệ nào trước đây có thể.

Câu châm ngôn thứ hai là: "Chúng ta là biểu tượng, và sống trong các biểu tượng." Đó là cách Ralph Waldo Emerson mô tả việc sử dụng ngôn ngữ của chúng ta để hiểu, giải thích và định hình thế giới. Con người chúng ta luôn dựa vào các công cụ, và đó là những gì các biểu tượng là. Chúng cho phép chúng ta tạo ra những thứ không tồn tại trước đây và không xảy ra một cách tự nhiên. Hãy xem xét Griffin, với đầu và cánh của một con đại bàng và cơ thể của một con sư tử. Đó là một sáng tạo của con người phản ánh một số thực tế mà chúng ta muốn thấy trên thế giới. Con người tạo ra Griffin vì những lý do độc đáo của con người. AI cũng không ngoại lệ.

Thật vậy, nhiều sáng tạo giàu trí tưởng tượng - từ quái vật của Mary Shelley trong Frankenstein đến người máy giế

Could AI help cure ‘downward spiral’ of human loneliness?

One computer scientist says we should embrace human-machine relationships, but other experts are more cautious

Ian Sample. The Guardian. Mon 27 May 2024.

Hollywood may have warned about the perils of striking up relationships with artificial intelligence, but one computer scientist says we may be missing a trick if we do not embrace the positives that human-machine relationships have to offer.

Despite the travails of Joaquin Phoenix’s introverted and soon-to-be-divorced protagonist in the 2013 movie Her, one professor says we should be open to the comforts that chatbots can provide.

Tony Prescott, professor of cognitive robotics at the University of Sheffield, argues that AI has an important role to play in preventing human loneliness. Just as we develop meaningful bonds with pets, and have no qualms about children playing with dolls, so should we be open to the value of AI to adults, he says.

“In an age when many people describe their lives as lonely, there may be value in having AI companionship as a form of reciprocal social interaction that is stimulating and personalised,” Prescott writes in a new book, The Psychology of Artificial Intelligence.

Prescott believes AI could become a valuable tool for people on the brink of social isolation to hone their social skills, by practising conversations and other interactions. The exercises would help build self-confidence, he suggests, and so reduce the risk of people withdrawing from society entirely.

“Human loneliness is often characterised by a downward spiral in which isolation leads to lower self-esteem, which discourages further interaction with people,” Prescott writes. “There may be ways in which AI companionship could help break this cycle by scaffolding feelings of self-worth and helping maintain or improve social skills. If so, relationships with AIs could support people to find companionship with human and artificial others.”

The magnitude of the loneliness problem has become clear in recent years. In the UK, more than 7%, or nearly four million people, are known to experience chronic loneliness, meaning they feel lonely often or always. According to a Harvard study from 2021, more than a third of Americans feel “serious loneliness”, and some of the worst-affected are young adults and mothers with small children.

The knock-on effects on wellbeing are also better understood. Last year, the US surgeon general, Vivek Murthy, described an “epidemic of loneliness and isolation” and its profound impact on public health. Loneliness is linked to more heart disease, dementia, stroke, depression, anxiety and premature death, with an impact on mortality equivalent to smoking up to 15 cigarettes a day, he said. Failure to address the problem, he added, would see the US “continuing to splinter and divide until we can no longer stand as a community or a country”.

It is a far more mixed picture, therefore, than that depicted in the film Her, where Phoenix finds love in the unlikeliest of places: a disembodied AI voiced by Scarlett Johansson.

Whether AI can, or should, be part of the solution is not a new debate. Sherry Turkle, professor of social science at MIT, has warned that forming relationships with machines could backfire, and lead people to have fewer secure and fulfilling human relationships.

Christina Victor, professor of gerontology and public health at Brunel University, has similar concerns. “I doubt [AI] would address loneliness, and I would question whether connections via AI can ever be meaningful, as our social connections are often framed by reciprocity and give older adults an opportunity to contribute as well as receive,” she said.

Murali Doraiswamy, professor of psychiatry and medicine at Duke University in North Carolina, said: “Right now, all the evidence points to having a close human friend as the best solution for loneliness. But until society priori

Liệu AI có giúp chữa trị 'vòng xoáy đi xuống hay tồi tệ' của sự cô đơn của con người?

Một nhà khoa học máy tính nói rằng chúng ta nên nắm lấy mối quan hệ giữa người và máy, nhưng các chuyên gia khác thận trọng hơn

Ian Sample. The Guardian. Thứ Hai 27 Tháng Năm 2024. Lê Quang Văn dịch, giải thích và thực hiện phần kỹ thuật số.

Trong phần cuối của bài này, chúng tôi giải thích thêm về “'vòng xoáy đi xuống” hay downward spiral (tiếng Anh).

Hollywood có thể đã cảnh báo về những nguy hiểm của việc thiết lập mối quan hệ với trí tuệ nhân tạo, nhưng một nhà khoa học máy tính nói rằng chúng ta có thể bỏ lỡ một mánh khóe nếu chúng ta không nắm lấy những mặt tích cực mà mối quan hệ giữa người và máy mang lại.

Bất chấp những khó khăn của nhân vật chính hướng nội và sắp ly hôn của Joaquin Phoenix trong bộ phim Her, một giáo sư nói rằng chúng ta nên cởi mở với những tiện nghi mà chatbot có thể cung cấp.

Tony Prescott, giáo sư về robot nhận thức tại Đại học Sheffield, lập luận rằng AI có vai trò quan trọng trong việc ngăn chặn sự cô đơn của con người. Giống như chúng ta phát triển mối liên kết có ý nghĩa với thú cưng và không e ngại trẻ em chơi với búp bê, vì vậy chúng ta nên cởi mở với giá trị của AI đối với người lớn, ông nói.

"Trong thời đại mà nhiều người mô tả cuộc sống của họ là cô đơn, có thể có giá trị trong việc có sự đồng hành của AI như một hình thức kích thích tương tác xã hội qua lại và cá nhân hóa", Prescott viết trong một cuốn sách mới, Tâm lý học của trí tuệ nhân tạo.

Prescott tin rằng AI có thể trở thành một công cụ có giá trị cho những người trên bờ vực cô lập xã hội để trau dồi các kỹ năng xã hội của họ, bằng cách thực hành các cuộc trò chuyện và các tương tác khác. Các bài tập sẽ giúp xây dựng sự tự tin, ông gợi ý, và do đó làm giảm nguy cơ mọi người rút lui hoàn toàn khỏi xã hội.

"Sự cô đơn của con người thường được đặc trưng bởi một vòng xoáy đi xuống, trong đó sự cô lập dẫn đến lòng tự trọng thấp hơn, điều này không khuyến khích sự tương tác hơn nữa với mọi người", Prescott viết. "Có thể có những cách mà sự đồng hành của AI có thể giúp phá vỡ chu kỳ này bằng cách nâng cao cảm giác về giá trị bản thân và giúp duy trì hoặc cải thiện các kỹ năng xã hội. Nếu vậy, mối quan hệ với AI có thể hỗ trợ mọi người tìm thấy sự đồng hành với con người và nhân tạo khác.

Mức độ nghiêm trọng của vấn đề cô đơn đã trở nên rõ ràng trong những năm gần đây. Ở Anh, hơn 7%, hoặc gần bốn triệu người, được biết là trải qua sự cô đơn mãn tính, có nghĩa là họ cảm thấy cô đơn thường xuyên hoặc luôn luôn. Theo một nghiên cứu của Harvard từ năm 2021, hơn một phần ba người Mỹ cảm thấy "cô đơn nghiêm trọng" và một số người bị ảnh hưởng nặng nề nhất là thanh niên và bà mẹ có con nhỏ.

Các tác động dây chuyền đối với sức khỏe cũng được hiểu rõ hơn. Năm ngoái, Tổng bác sĩ phẫu thuật Hoa Kỳ, Vivek Murthy, đã mô tả một "dịch bệnh cô đơn và cô lập" và tác động sâu sắc của nó đối với sức khỏe cộng đồng. Cô đơn có liên quan đến bệnh tim, sa sút trí tuệ, đột quỵ, trầm cảm, lo lắng và tử vong sớm, v