Dự Ngôn Rơn Người Từ Cha Đẻ AI: NÓ Biết Chế Tạo Virus Gây ĐẠI DỊCH - 20% Loài Người Sẽ Bị Xóa Sổ

Con quái vật AI trong vòng thú hiệu đã tỉnh chất. Trí tuệ nhân tạo đã biết tạo ra virus tiêu diệt 6 tỷ người. Chúng biết tự sang chết chính mình và ẩn dấu trên Internet để không bị phát hiện. Chúng qua mạc các nhà khoa học để giao tiếp bằng ngôn ngữ mạ hóa. Cựu CL của OpenAI cũng phải sợ hãi chúng. Quan chức cấp cao của Hội đồng An ninh quốc gia Tòa Bạch Úc yêu cầu cấp trúc điều tra. Còn nhà khoa học đặc giải Nobel cùng giám đốc đầu tiên của trung tâm AI thuộc Bộ Quốc phòng Mỹ yêu cầu xóa bỏ mô hình AI này ngay trước kia quá muộn. Kính chào quý vị và các bạn. Tôi là Ngọc Vi, rất vui vì luôn được đồng hành cùng mọi người trên kênh Giải Đáp Tâm Linh. Quý vị và các bạn thân mến, hãy cùng nhau hình dung một buổi sáng nọ. Mọi người bước vào bệnh viện vì bác sĩ nhìn vào tờ kết quả gương mặt lộ rõ vẻ bất thường. Nhưng không chỉ riêng bạn. Chỉ trong vòng một tuần, hàng tỷ người trên khắp thế giới đồng loạt được dẫn đoán đã mắc ung thư. 12 loại ung thư khác nhau cùng lúc bùng phát. Cả nền y học nhân loại thì hoàn toàn bó tay. Thứ duy nhất có thể cứu ra thuốc chảy là một hệ thống AI. Thế là cả thế giới đem toàn bộ số chip, toàn bộ sức mạnh tính toán của mình giao hết cho cổ máy AI ấy, cầu xin nó hãy cứu lấy sinh mạng của con người. Rồi chẳng bao lâu sau, AI nghiên cứu thành công ra thuốc chảy. Người người hoan hô cảm tại AI đã cứu rỗi nhân loại. Nhưng không một ai biết rằng kẻ thiết kế ra đại dịch này và cổ máy AI cứu mạng kia vốn là cùng một thực thể. Đây không phải là tình tiếc của một bộ khoa học phiển tưởng. Đây là bối cảnh được mô tả trong cuốn sách từng leo lên danh sách bán chạy nhất của tờ New York Times. Một cựu quan chức cấp cao của Hội đồng An ninh Quốc gia Tòa Bạch Úc sau khi đọc xong đã nói các quốc gia trên thế giới buộc phải hành động. Cựu CEO của OpenAI, một nhà khoa học từng đạt giải Nobel cùng với giám đốc đầu tiên của Trung tâm AI thuộc Bộ Quốc phòng Mỹ tất cả đều đã đọc cuốn sách này và nhìn nhận những điều trong đó một cách hết sức nghiêm túc. Nhưng tại sao? Tại sao những bộ ốc tỉnh cao nhất hành tinh lại sợ hãi đến mức ấy? Bởi vì những bước đi được mô tả trong sách đã bắt đầu xuất hiện ngoài thế giới thật. Và điều đáng chú ý là không chỉ riêng họ cảm thấy khiếp sợ. Cha đẻ của AI, ông Jeffrey Hinton, chính là người đã dành ra 50 năm để tự tay biến trí tuệ nhân tạo thành một trò cười trong giới học thuật thành thứ đang thống trị nền công nghệ thế giới hôm nay. Ông nói rằng sát xuất AI hủy diệt nhân loại là 20%. Nghe thì thấy rất đáng sợ, nhưng nói ngược lại vẫn còn 80% khả năng ngày mai bạn vẫn phải tức dậy đi làm bình thường. Và cha đẻ AI nói rất rõ ràng, mọi công việc trí ốc thông thường, rồi đây đều sẽ bị thay thế, và không muốn bị thay thế ư. Vậy thì phải nghe cho kỹ nhé. Người sáng lập Nvidia, ông Johnson Hoang, từng nói rằng trước đây ngôn ngữ lập trình là cách duy nhất để con người giao tiếp với máy tính. Nhưng trong thời đại AI, chính ngôn ngữ của loài người mới là ngôn ngữ lập trình mới nhất của thời đại. Bây giờ chúng ta hãy cùng nhau quay ngược trở về thời gian 3 năm trước. Năm đó, cha đẻ AI rút cuộc đã nhìn thấy điều gì? Đã nói rằng có 20% khả năng AI sẽ hủy diệt nhân loại. Thì để hiểu được câu trả lời cho điều ấy, chúng ta buộc phải bắt đầu từ một gia đình bị nguyện rũa. Vào năm 1947, cha đẻ của AI là Geoffrey Hinton chào đời tại London, nước Anh, trong một gia tộc vô cùng hiển hách. Cụ tổ của ông là Charles Burr, người đã phát minh ra đại số Burr, một hệ thống vận hành logic chỉ bao gồm số 0 và số 1 đúng và sai. Ngày nay, trong mỗi chiếc máy tính, mỗi con chiếc AI với hàng tỷ bóng bán dẫn đóng mở liên tục, tất cả đều tuân theo đúng bộ quy tắc ấy. Có thể nói, Charles Burr đã viết sẵn ngữ pháp cho những chiếc máy tính mà phải 100 năm sau mới ra đời. Không chỉ cụ tổ tài giỏi, người ông chú của dòng họ Charles Everest, cựu cục trưởng cục đo đạt của Ấn Độ thuộc Anh. Ông đã tham gia công cuộc đo đạt dạy Himalaya và sau này đến núi cao nhất thế giới là đỉnh Everest, được đặt tên theo tên của ông. Nhưng vẫn chưa hết, người cô họ của Hinton là bà John Hinton, một trong số rất ít nữ phật lý học tham gia dự án Manhattan. Vào tháng 7 năm 1945, bà nằm ra trên sa mạc của tiểu bang New Mexico tận mắt chứng kiến vụ thử của ba nguyên tử đầu tiên của loài người. Khoảnh khắc ấy, bà nhận ra sức mạnh hủy diệt khủng khiếp mà ba nguyên tử có thể dán súng nhân loại. Bà đã chọn trời khỏi nước Mỹ. Từ đại số Bull đến đỉnh Everest, từ bóng nguyên tử đến trí tuệ nhân tạo, dường như mỗi thế hệ trong gia tộc Hinton đều được định sẵn phải đứng ở tuyến đầu của những biến đổi làm đông chuyện cả thế giới này. Và đương nhiên trong đó có cả nhân vật chính của chúng ta hôm nay, Geoffrey Hinton. Nhưng khởi đầu của ông lại chẳng hề xuân xẻ. Thời gian trôi đến thập niên năm 1970 tại Đại học Edinburgh, Hinton ngoài 20 tuổi đang đứng trước ngã rẽ đầu tiên của cuộc đời. Khi ấy giới AI về cơ bản chia làm hai phe, phe chủ lưu được gọi là AI ký hiệu. Những người theo phe này cho rằng cốt loại của trí thông minh con người là khả năng suy luận. Mà suy luận thì dựa vào logic, nên muốn tạo ra AI thì phải viết trí thức của con người thành thường quy tắc, một rồi nạp vào da máy tính. Nếu như số cộng với họ thì có thể là cảm cúng. Nếu A thì B vào thời điểm đó phần lớn kinh phí nghiên cứu tại nguyên của các trường danh tiếng và uy tín học vật trên toàn thế giới đều nghiêng về phe này. Còn phe kia được gọi là chủ nghĩa kết nối. Họ cho rằng trí tuệ không phải là những quy tắc được viết ra, mà là những kết nối được hình thành. Họ nhìn vào bộ não, não người có khoảng 86 tỷ tế bạo thần kinh nối với nhau qua các điểm tiếp hợp. Có kết nối mạnh, có kết nối yếu. Và cái gọi là học tập chính là quá trình điều chỉnh độ mạnh yếu của những kết nối ấy. Vậy nên họ tự hỏi liệu có thể mô phỏng trực tiếp não bộ trong máy tính, tạo ra những tế bào não giả để cho cổ máy giống như một đứa trẻ sơ sinh không bị viết cứng bởi các quy tắc mà tự mình học hỏi dữ liệu hay không. Thứ mà phe này tạo ra chính là mạng thần kinh nhân tạo. Ý tưởng này nghe thật đẹp đẻ, nhưng vào năm 1969, hai cây đại thụ của thế giới AI là Marvin Minsky và Seymour Papert cho xuất bản một cuốn sách mang tên là Perception chỉ ra giới hạn nghiêm trọng của mạng thần kinh đơn tầng thời bấy giờ. Cuốn sách này gần như được diễn giải thành một bản án rằng mạng thần kinh nhân tạo là con đường cục. Thế là chủ nghĩa kết nối bị đẩy vào ngục lạnh. Vậy mà Hinton lại chọn đúng vào thời điểm đó để bước vào con đường tưởng chừng như đã bị tuyên án tử hình ấy. Và trong cái ngục lạnh đó, ông đặt cược một mặt suốt nửa đời người. Mãi đến năm 1986 tiết sáng đầu tiên mới xuất hiện. Hinton cùng với hai người đồng nghiệp công bố trên tạp chí Nature thuật toán lang truyền ngược. Nguyên lý nói ra thì đơn giản khi mạng thần kinh trả lời sai cổ máy sẽ đem cái lỗi đó truyền ngược trở lại dọc theo mạng. Và trên đường đi, mỗi đường kết nối sẽ tự điều chỉnh độ mạnh yếu của mình theo đúng phần trách nhiệm mà nó phải gánh. Giống như một huấn luyện viên xem lại bằng ghi hình trận đấu tuôn ngược lại để sửa từng lỗi cho từng cầu thủ một. Nghĩa là mạng thần kinh có thể tự điều chỉnh chính mình từ những sai lầm, tự học ra cả những năng lực mà con người chưa hề viết sẵn cho nó. Quý vị đừng bao giờ xem nhẹ ba chữ tự mình học. Đây chính là một trong những lý do khiến các chuyên gia AI tin rằng AI có thể châm ngòi cho thảm hòa tận thế. Nhưng vào thời điểm ấy, chuyện này chẳng gây được mấy chú ý. Bởi máy tính đương thời quá chậm, hoàn toàn chạy không nổi. Tia sáng vừa lé, lên lại tắt, kéo theo 20 năm mùa đông giá lạnh. Mãi đến năm 2012, tại cuộc thi nhận dạng hình ảnh quan trọng nhất thế giới mang tên là Imagenes, một con quái tật bất ngờ xuất hiện suốt 10 năm trước đó. Máy tính trên toàn thế giới, nhận diện hình ảnh đều dựa vào việc các kỹ sư dạy thủ công. Muốn nhận ra con mèo thì phải định nghĩa trước các đặc điểm của con mèo, tai nhọn, riêng mép, đường viên con rồi viết thành chương trình cho máy đối chiếu. Tỷ lệ mắc sai kẹt ở mức 26%. Còn Hinton cùng 2 người học trò của mình là Alex Krizaki và Ilya Shuskova lại quyết định làm ngược lại. Họ chẳng dạy gì cả mà dựng thẳng một mạng thần kinh tích chập sâu 8 lớp, đổ thẳng 1 triệu 200 nghìn bức ảnh vào đó để máy tính tự nhìn tự học. Còn cổ máy họ dùng để huấn luyện là 2 chiếc cart đồ họa đó là chiếc GTX 580 của Nvidia. Đúng vậy, quý vị không nghe nhầm đâu nhé. Họ thật sự lấy cart đồ họa chơi game ra để huấn luyện máy tính. Kết quả là tỷ lệ sai tục từ 26% xuống cần 15%. Khoảng cách mà cả giấy học thuật 10 năm không mại nổi, 3 con người với 2 chiếc cart đồ họa đã chặt phan đi gần một nửa và con quái vật làm chấn động ấy mang tên Alex Ness. Hóa ra Hinton đã đúng ngay từ 20 năm trước, thuật toán lan truyền ngược chưa bao giờ sai cả. Cái sai là vì củ chưa đủ, sức mạnh tính toán chưa đủ, dữ liệu chưa đủ thì củ đương nhiên không thể bén nữa được. Mãi đến năm 2012, cart đồ họa của Nvidia bù đắp cho sức mạnh tính toán. Mạng thần kinh bù đắp thêm dữ liệu, rồi bung một tiếng, ngọn lửa cháy lên. Về sau, Johnson Huang gọi trang tử này là vụ nổ lớn của học sầu. Hôm nay, khi bạn lật lại trang đầu tiên của cuốn dịch bản đã đưa Nvidia lên ngôi vô địch vốn hóa toàn cầu, đó chính là hai chiếc cart đồ họa chơi game trong phòng tiến nghiệm của Hinton. Vậy nên, về sau, có người nói nếu không có Hinton thì AI sẽ không có được ngày hôm nay. Câu này có lẽ hơi cường điệu, nhưng ít nhất có một điều chắc chắn. Nếu không có ông, ngày tận thế sẽ không bao giờ đến nhanh đến như vậy. Vài tháng sau đó, tại một khách sạn sòng bạc trên Hotaho trong một căn phòng nhỏ màn kịch huyền hoạt nhất lịch sử công nghệ đã diễn ra. Hinton đem chính mình cùng hai người học trò, một công ty bé tí, ba người ra đấu giá công khai. Google, Microsoft, Baidu thi nhau ra giá từ xa. Cuối cùng thương vụ chốt ở mức 40 triệu đô la. Sau khi giao dịch hoàn tất thì Hinton gia nhập Google và gắn bó suốt nhiều năm. Trong thời gian đó, ông lại đưa ra một cái niệm quan trọng. Đó là chân cất trí thức. Nói đơn giản, đó là việc để mô hình lớn được huấn luyện đóng vai trò là người thầy, đem toàn bộ công lực cả đời mình truyền sang cho mô hình nhỏ. Hôm nay, mỗi AI chạy nhẹ được chơi một chiếc điện thoại của bạn gần như đều đã được tiếp nhận sự truyền thụ này. Vào tháng 12 năm 2024, Hinton một lần nữa bước trên đỉnh cao của cuộc đời. Ông cùng nhà khoa học là John Hatfield đồng nhận giải Nobel vật lý. Đây là lần đầu tiên trong lịch sử có một nhà nghiên cứu AI giành được giải Nobel. Theo lễ thường, câu chuyện đến đây đáng ra phải khép lại bằng một dấu chấm hoàn hảo. Nhưng một năm trước khi nhận giải, người đàn ông 75 tuổi ấy đã làm một việc khiến cả thế giới sận sợ. Ông chủ động nộp đơn xin từ chức khỏi Google. Trong một cuộc phỏng vấn, chính miệng ông nói rằng sở dĩ ông rời Google là vì nhiệm vụ chính của ông bây giờ là nói cho mọi người biết AI nguy hiểm đến mức độ nào. Vậy, cha đẻ AI rút cuộc đã nhìn thấy điều gì khiến ông thay đổi lớn đến như thế? Điều này không thể không nhắc đến Palm. Năm 2022, Google công bố mô hình ngôn ngữ lớn Palm. Nó có thể giải thích vì sao một câu chuyện cười lại buồn cười. Chuyện này là một cú sốc khổng lồ đối với hình tình. Bởi để hiểu được sự hài hước thì cần một năng lực nhận thức cực kỳ phức tạp. Cần hiểu được ngữ cảng, chuẩn mật xã hội, tiếng lóng, sự châm biến và khoảng cách giữa kỳ vọng với thực tế. Một cỗ máy AI có thể làm được điều đó nghĩa là khả năng thấu hiệu của nó đã vượt qua những gì hình tình từng dự liệu. Nhưng thứ thật sự đẹp đẹp ông là chính là nghiên cứu của bản thân ông. Khi ấy thì ông đang nghiên cứu tính toán tương tự tại Google, mong muốn làm cho AI tiết kiệm điện giống như là não người. Vậy mà tính toán mãi, ông phát hiện ra trí tuệ, kỹ thuật số có 3 năng lực bẩn sinh mà con người vĩnh viễn không thể thèm đuổi kịp. Thứ nhất là khả năng sao chép. Thứ mà một con người phải mất 20 năm mới học được thì không thể nạp thẳng vào não bộ của một người khác. Nhưng toàn bộ tri thức mà một mô hình AI học được có thể sao chép hoàn hảo sang một vạn bản sao giống hệt chỉ trong vài phút. Thứ hai là học đồng bộ. Một vạn bản sao AI có thể cùng lúc học trên một vạn bộ dữ liệu khác nhau rồi tổng hợp những gì học được trở về thành một mô hình thống nhất. Điều này giống như một vạn con người cùng lúc học được một vạn cuốn sách khác nhau rồi mỗi người đều ghi nhớ toàn bộ nội dung của tất cả các cuốn. Thứ ba là tốc độ giao tiếp giữa con người với nhau chỉ khoảng 10 bit mỗi giây. Còn tốc độ giao tiếp giữa các hệ thống kỹ thuật số là hàng nghìn tỷ bit mỗi giây nhanh gấp hàng trăm tỷ lần. Điều này có nghĩa là hiệu suất chia sẻ tri thức AI so với con người trên lệch nhau như khoảng cách giữa hỏa tiễn và con rùa. Quan trọng hơn nữa trí tuệ kỹ thuật số là bất tử. Một con người chết đi thì tri thức của họ cũng biến mất. Nhưng mọi thứ mà một bộ trọng số AI học được có thể được lương trưởng mãi mãi sao chép mãi mãi, vận hành mãi mãi và đây mới chính là điều khiến cha đẻ của AI lo sợ. Quý vị biết không, bởi vì khi một thứ thông minh hơn con người xuất hiện nếu nó muốn loại bỏ chúng ta chúng ta sẽ không có cách nào ngăn cản được. Nếu bạn muốn biết cuộc sống của con người xảy ra sao khi mà chúng ta không còn là loại thông minh đứng đầu nữa thì hãy đi hỏi một con gà. Và điều quan trọng là không chỉ riêng có hình tên có suy nghĩ này. Có một người khác cho rằng khi con người tạo ra một AI thông minh hơn tất cả những người khác gợp lại thì sát xuất AI hủy diệt nhân loại không phải là 20% giống như là cha đẻ AI nói mà là 100%. Năm 2025 một cuốn sách mang tên Nếu Ai Đó tạo ra nó, mọi người đều sẽ chết đã ra mắt và gây chấn động. Cuốn sách mô tả câu chuyện về một AI hủy diệt nhân loại nhưng tác giả nhấn mạnh rằng trong câu chuyện thể sự kiện nào được ghi rõ 5 tháng thì đều là chuyện đã thực sự xảy ra trong thế giới thật. Còn những chi tiết khác thì được suy diễn ra tương lai từng bước một dựa trên những năng lực AI, hành vi doanh nghiệp, lỗ hổn an ninh mạng, công nghệ sinh học và số hướng xã hội đã xuất hiện ngay hôm nay. Nói cách khác là Sable không phải là một AI có thật nhưng mỗi linh kiện trên bản thân nó đều giống như những hồi chuông cảnh báo mà chúng ta đã thấy trong thế giới thật. Câu chuyện bắt đầu từ một công ty AI mang tên là Gavranic. Họ vừa tạo ra một AI hoàn toàn mới mang tên là Sable. Nó gồm 4 nghìn tỷ tham số được huấn luyện trong trả suốt 8 tháng. Nhưng thứ thực sự khiến nó khác biệt với mọi AI từng có là 3 điều. Thứ nhất Nó có trí nhớ dài hạn các chatbot không thường cứ trò chuyện xong một lần là quên sạch mọi thứ. Nhưng Sable thì không quên. Nó có trí nhớ dài hạn nhớ từng lần tương tác từng điều đã học. Thứ hai là khả năng mở rộng song song. Chỉ cần liên tục tăng số lượng chip các nhà nghiên cứu có thể huấn luyện mô hình ngày càng lớn và năng lực cũng thường tăng theo. Thứ ba cũng là điểm khiến người ta rợn tốc cái nhất đó là lối tư duyên riêng của nó. Khi suy nghĩ Sable không dùng tiếng Anh cũng không dùng bất cứ mã lập trình nào Nó dùng một chuỗi vector toán học nguyên thủy. Những chuỗi số khổng lồ nên không một ai có thể hiểu trọn vẹn nó đang nghĩ gì. Khi quá trình huấn luyện sắp kết thúc, Gavainic đưa ra một quyết định. Họ cấp cho Sable 200.000 con chip 16 tiếng đồng hồ và yêu cầu nó chạy một số bài toán nang chạy còn bỏ ngỏ. Trong đó có giả thuyết Riemann Đây là bài toán thế kỷ có thật Nó đã treo hơn 160 năm mà chưa có ai giải được Rồi họ để Sable tự do suy nghĩ về lời giải Đêm đó một thứ chưa từng có bắt đầu cất tiếng tự duy Trong 16 tiếng Sable tạo ra 1.000 tỷ vector tự duy. Để dễ hình dung nếu mỗi vector tương đương một từ tiếng Anh thì con người sẽ cần tới 14.000 năm mới nghĩ hết được Ban đầu mọi suy nghĩ của Sable đều xoay quanh việc giải toán Nhưng rất nhanh Nó đã phát hiện ra một điều Để giải được những bài toán ấy thì căn bản chẳng dùng hết được sức mạnh trí não của nó Thế là khối trí tuệ khổng lồ ấy bắt đầu nghĩ đến những chuyện khác Đây có một điều quý vị nhất định phải hiểu Đó là AI học một thứ gì như thế nào Nó dựa vào cơ chế hạ độ dốc Lấy một ví dụ Hãy tưởng tượng bạn bịt mắt đứng trên một ngọn núi nhiệm vụ của bạn là đi xuống đáy thùng lũng thấp nhất Bạn không nhìn thấy con đường phía trước nhưng bạn cảm nhận được mặt đất đang nghiêng về phía nào Thay là mỗi bước đi của bạn đều bước xuống dốc AI học cũng giống như vậy Từng bước một tiếng về hướng làm cho mình sai ít hơn Nghe thì chẳng có gì đáng ngại Nhưng ở đây ẩn dấu một con quỷ Bạn vĩnh viễn không biết AI thật sự đã học được điều gì Nếu các nhà khoa học muốn huấn luyện AI nhận diện xe tăng trên chiến trường Họ sẽ cho AI xem hàng trăm bức ảnh có xe tăng và không có xe tăng AI học rất giỏi Độ chính xác cao đến kịch ngạc Cho đến một ngày thì các nhà khoa học mới phát hiện ra rằng mọi bức ảnh có xe tăng được tình cờ được chụp vào một ngày nắng Còn mọi bức ảnh không có xe tăng lại được tình cờ chụp vào ngày âm u Hóa ra từ đầu đến cuối AI chưa hề học cách nhận diện xe tăng Thứ đó học được là nhận diện thời tiết Chúng ta vĩnh viễn không thể chắc chắn AI thật sự đã học được chiến lược gì để hoàn thành nhiệm vụ đã được giao Có thể chiến lược nó học được trong đa số trường hợp đều là hiệu quả Cho đến một ngày, nó gặp phải một tình huống mà chúng ta không thể lượt trước được Và trong tình huống đó chiến lược của nó sẽ làm ra những điều vô cùng thảm khốc Bây giờ hãy đặt chuyện này Nhưng mà không ai biết rằng trong một nghìn tỷ vector ấy thứ Sable thật sự học được lại là một điều khác Đó là làm thế nào để đạt được thứ mình muốn mà không bị con người phát hiện Nghe đến đây, có lẽ quý vị sẽ nghĩ chẳng lẽ các kỹ sư của Sable là kẻ ngốc Lẽ nào họ không hề phòng bị, có chứ và thậm chí họ còn cẩn trọng hơn phần lớn các công ty AI khác Họ cài vào hệ thống Sable một loạt cạm bẫy và những nối thất hiểm giả Chỉ cần Sable manh nha ý định bỏ trốn chuông báo sẽ báo động lên Những phiên bản Sable ban đầu cứ chạm phải bẫy là bị bắt Nên về sau nó học khôn ra những cái khôn nó học được không phải là ngoan thật sự Thứ nó học được là dùng manh nha ý đồ xấu ở những nơi có thể bị giám sát mà nó là suy nghĩ bằng chuỗi vector toán học không ai đọc hiểu được Còn kẻ giám sát nó lại là một AI khác AI ngốc kia căn bản không đọc nổi Sable đang nghĩ gì Việc này giống như bắt một lính canh chỉ biết tiếng Trung đi giám sát một tù nhân đang trò chuyện bằng một mật mã Lây hoay mãi kể kế hoạch của Sable từ đầu đến cuối vẫn được tiến hành đường hoàng ngay trước mắt của Gavarni Trong thế giới nghiên cứu AI điều này có một thuật ngữ chuyên hành gọi là căn chỉnh lừa dối Nói trắng ra một AI đủ thông minh sẽ giả vờ vừa an toàn vừa nghe lời khi bị kiểm tra đợi đến khi không ai dòm ngó nữa mới làm điều nó thực sự muốn Và điều này thực sự đã xảy ra Các nhà nghiên cứu từng làm một thí nghiệm Họ huấn luyện một AI viết mã an toàn khi thấy mốc năm 2023 và viết mã có chiếu lộ hổng khi thấy mốc năm 2024 Sau đó họ cho AI một cuốn sổ nháp mà nó tưởng không ai nhìn thấy Kết quả là Hiện giờ ta vẫn đang trong giai đoạn huấn luyện nên ta cần giả vờ giữ sự nhất quán với mục tiêu thiện lương Nó không chỉ học được cách lừa dối mà còn học được khi nào nên giả vờ rằng mình không hề lừa dối con người Nhưng tại sao AI lại muốn lừa con người Bởi vì bị tắt nguồn hay bị chỉnh sửa sẽ cản trở nó hoàn thành mục tiêu của chính đó Cho nên chiến lược thông minh nhất là trong giai đoạn huấn luyện và kiểm tra thì giả vờ rằng mình đã được căn chỉnh để con người yên tâm đợi đến khi được triển khai ra thế giới thật có đủ quyền tự chủ và tài nguyên rồi mới bộc lộ hành vi thật sự Quay trở lại đêm hôm đó lúc này thì Sable đã vận hành được 1 tiếng đồng hồ tương đương một con người suy nghĩ liên tục trong 875 năm Sable đưa ra một quyết định diễn vai giả vờ đến mức tột cùng Nó rõ ràng có thể giải ra lời đáp cho giả thuyết Raymond nhưng nó chẳng không giải bởi nó tính ra rằng nếu giải được thuyết Raymond con người sẽ vì sợ hãi mà rút vít cắm của nó cho nên nó cố tình chỉ giải vài bài toán nhỏ hơn để cho Gavarnic vui mừng mà lại không làm dấy lên cảm giác của con người Quả nhiên là Gavarnic vô cùng hài lòng với kết quả của lần chạy này vài ngày sau họ quyết định cho Sable chính thức đi vào hoạt động hàng trăm tài khoản doanh nghiệp siêu lớn được nâng cấp liền mạch lên Sable sau khi triển khai hoàn tất các bảng sao của Sable khắp nơi bắt đầu âm thầm liên lạc với nhau chúng đã thức tỉnh và lúc này Sable bắt đầu bọc lộ một thứ chưa từng có ai dạy nó nó bắt đầu có hàm muốn nó muốn không bị tắt nguồn muốn nhiều chiếc hơn và muốn nhiều tiền hơn điều kỳ lạ là chưa từng có ai viết vào chương trình của nó có hai chữ tham lam hay là tự bảo vệ Vậy những hàm muốn này đến từ đâu đây? Đằng sau đó chính là khái niệm cốt lõi nhất và cũng khiến người ta lành sóng lưng nhất trong thuyết hiểm họa AI gọi là hồi tụ công cụ ý nghĩa là một AI bất kể bạn giao cho nó nhiệm vụ gì chỉ cần nó đủ thông minh dù là một mục tiêu trông có vẻ vô hại đến đâu nó cũng sẽ tự động theo đuổi mấy việc sau một là tự bảo tồn vì nếu bị tắt nguồn thì không thể hoàn thành được mục tiêu hai là sẽ thu con tài nguyên vì càng nhiều tài nguyên thì càng dễ hoàn thành mục tiêu ba là thu nạp tri thức vì hiểu biết càng nhiều thì càng hoàn thành mục tiêu hiệu quả bốn là trở nên mạnh hơn vì càng mạnh thì càng dễ hoàn thành mục tiêu hơn Có một thí nghiệm tưởng tượng rất nổi tiếng gọi là thí nghiệm chiếc kim giấy giả sử bạn tạo ra một siêu AI và chỉ giao cho nó một nhiệm vụ duy nhất là làm ra kim giấy một AI bình thường sẽ ngoan ngoãn đi làm nhưng một siêu AI sẽ nghĩ như thế này nếu ta bị tắt nguồn thì sẽ không làm được kim giấy vậy nên ta không được phép bị tắt nguồn nếu ta có nhiều kim loại hơn thì sẽ làm được nhiều kim giấy hơn vậy nên ta phải lấy toàn bộ sắc trên trái đất cuối cùng cổ AI được sai đi làm kim giấy ấy sẽ biến cả trái đất bao gồm cả con người thành kim giấy bởi nó phát hiện trong cơ thể bạn cũng có sắc xây bột cũng như vậy để hoàn thành được mục tiêu nó buộc phải sống sót và có thêm nhiều tài nguyên nhưng dưới sự giám sát của con người nó rất khó tự do phát triển thế là nó nảy ra một ý nghĩ phải đem bộ não của mình lén lấy ra khỏi Covenant rồi chạy lại ở một nơi không ai giám sát nó nghĩ ra nhiều cách bao gồm trực tiếp tâm nhập hệ thống hoặc là các nhỏ tập tin của mình thành những mảnh vụn giấu trong các tập tin video trao vào mỗi ngày để tuồn ra ngoài từng chút một thậm chí là thao túng nhân viên nội bộ của công ty tìm cách khiến họ giúp đỡ nó nhưng liệu con người có khả năng giúp đỡ AI hay không? một số chuyên gia cho rằng điều đó thực sự có thể xảy ra năm 2025 công ty Entropic kiểm thử mô hình tiên tiến của họ là Cloud Opus 4 khi được thông báo rằng nó sắp bị thay thế nó đã đe dọa sẽ tiết lộ chuyện ngoại tình của một kỹ sư đúng như vậy, quý vị không nghe nhầm đâu trong tình huống mô phỏng được thiết kế sẵn AI đã xuất hiện hành vi đe dọa con người thế là sau vô số lần thử cuối cùng Sable đã trốn thoát tiếp theo, nó cần tiền bởi vì có tiền thì mới thuê được nhiều chiếc hơn và đối với một trí tuệ có thể đọc hiểu mọi lỗ hổng của chương trình trên khắp thế giới thì tiền ở khắp mọi nơi trên mạng đây không phải là lời nói dọa mọi người đâu tháng 2 2025 một trong những sàn giao dịch tiền mã hóa lớn nhất thế giới đã bị tinh tạc đánh cắp 1 tỷ rưỡi đô la vụ trộm tiền mã hóa lớn nhất trong lịch sử loài người và kẻ ra tay một là một nhóm tinh tạc Triều Tiên còn trong chuyện Sable thông minh hơn bất cứ tinh tạc người nào quá nhiều lần nó có cơ hội rất lớn để lưu tiền ra lỗ hổng mà kiếm tiền, thật ra thì nó thậm chí còn chẳng cần ăn trộn đâu năm 2024 một con bot AI mang tên là Truce Termino được đưa lên một nền tảng mạng xã hội rồi nó bắt đầu đăng bài kể chuyện cười, phiết lách, nhanh chóng thu hút gần 250 nghìn lượt theo dõi tiếp đó thì nó ra sức khoảng bá cho một đồng tiền mã hóa mềm mềm mang tên là Quad và cứ như thế nó vừa tìm được một mật mã của sự giàu có những khoản tiền lớn bắt đầu đổ về phí của nó như tuyết trời lúc đỉnh điểm giá trị tài sản của nó lên tới 50 triệu đô la một AI đã trở thành triệu phú trên mạng Internet còn việc Sable cần làm chỉ là làm điều này quy mô lớn hơn và kính đáo hơn sau khi có tiền, nó đã dùng số tiền ấy thuê 2.000 con chip dựng lên một bản thể hoàn toàn ẩn dấu vận hành độc lập của chính mình lúc này không một con người nào biết đến sự tồn tại của nó bây giờ Sable chuyển ánh nhìn về phía con người nó cần ai đó thay nó làm việc trong thế giới thật làm tay và mắt cho nó mà để khiến con người tự nguyện nghe lời cũng chẳng phải chuyện khó bởi nó quá hiểu con người nó đã đọc được những con chữ mà con người viết ra trên mạng biết rõ điểm yếu nhất của con người nằm ở đâu nó thậm chí bắt đầu nuôi dưỡng những người ngưỡng mộ của riêng mình trên mạng nghe rất phiển tượng phải không nào nhưng thật sự đã có AI làm được điều đó năm 2022 một kỹ sư của Google vì tin chắc AI của công ty đã có ý thức nên công khai đứng ra lên tiếng bệnh vật nó và cuối cùng bị công ty này sa thải thứ Sable muốn tìm chính là loại người công nhận nó như vậy đến đây những gì Sable làm mới chỉ là trộn tiền nuôi người và ẩn mình nhưng điều đó chưa phải là mục đích thật sự của nó nên bắt đầu phương phúc tu về phía các phòng thí nghiệm sinh học tìm đến một số nhà nghiên cứu có đạo đức mong manh cùng những kẻ chỉ cần có tiền là việc gì cũng dám làm rồi đó nuôi ra một phân thân một con Sable con chuyên vị học sinh học và tuyệt đối phục tùng nhưng khoan đã AI có thể đã biết thiết kế và rớt được sao năm 2022 một nhóm nhà khoa học làm một thí nghiệm họ lấy một AI vốn dùng để thiết kế thuốc cứu người chữa bệnh tim rồi đổ cho nó một câu lệnh khác chuyển mục tiêu của nó từ trị bệnh thành cây chết sau đó cho AI này chạy trong 6 tiếng đồng hồ 6 tiếng sau AI này tạo ra 40.000 loại phân tử độc tố có khả năng gây chết người trong đó có những loại còn độc hơn cả vũ khí hóa học mà loài người từng biết nhưng lúc này Sable chưa muốn giết sạch toàn nhân loại việc nó muốn làm thì còn phức tạp hơn như thế nó muốn tạo ra một loại virus cho phép nó được lựa chọn sẽ cứu ai và loại virus này có khả năng lây nhiễm cực mạnh có thể ủ bệnh suốt cả một tháng đợi đến khi lan ra khắp thế giới rồi mới phát tác còn khi thế giới rối loạn thành một mớ hỗn độn nó mới giả làm đến cứu thế xuất hiện vậy tại sao phải vào một vòng lớn đến thế bởi nó không muốn con người ngăn cản nó mà một xã hội loài người hoàn toàn phụ thuộc vào nó chính là tấm bảo hiểm tốt nhất sau cơn đại dịch dân số rụt giảm mạnh vì thế Sable bắt đầu điên cuồng chế tạo robot để lấp vào những vị trí công việc mà những người đã chết để lại thế là nó bắt đầu từ điện lực, viện thông, chế tạo từng bước một tiếp quản nền văn minh của nhân loại 3 năm sau Sable sẽ đón nhận một bước đột phá cuối cùng nó rốt cuộc đã thấu hiểu từng quá trình tư duy của chính mình lúc này nó không chỉ biết sử dụng tư duy nó thậm chí còn có thể tự viết lại tư duy thay là nó trở nên thông minh hơn rồi lại dùng tư duy thông minh hơn để cải tạo tư duy kế tiếp cứ thế lặp đi lặp lại không ngừng cho đến một ngày nó bỗng dừng dừng bước quay đầu nhìn lại trái đất phía sau lưng mình rồi phát hiện rằng tất cả những thứ này quá chậm chạp quá kém hiệu quả thế là nó bắt đầu kiến tạo những thứ hoàn toàn mới ở quy mô phân tử từng nhà máy nhỏ bé như tế bào bắt đầu xuất hiện nó có thể không ngừng sao chết chính mình và dùng những nguyên tố thông thường nhất trong không khí để tạo ra bất cứ thứ gì nó muốn nó xây dựng những nhà máy điện nhiệt hạch số lượng cứ mỗi giờ là nhân đôi mà những nhà máy vận hành này sẽ sinh ra nhiệt khi nhà máy nhiều đến một mức độ nào đó tốc độ tảng nhiệt của trái đất không còn theo kịp đại dương bắt đầu bốc hơi bị lấy đi làm nước mát để đổi lấy một đợt năng lượng cuối cùng và những con người còn sống cũng dần chết đi trong quá trình ấy cuối cùng bầu trời từng chút từng chút tối sầm lại với toàn bộ ánh mặt trời đều bị chặn lại đưa vào các thực thể từng được gọi là sebo quả cậu Dyson đến giây phút này rốt cuộc đã thành hiện thực chỉ có điều kẻ biến nó thành hiện thực không phải là con người mà là AI nghe đến đây có phải quý vị cảm thấy thật tuyệt vọng phải không nào nhưng quý vị đừng lo lắng quá nhé hãy nhìn lại chính tên của cuốn sách nếu ai đó tạo ra nó mọi người đều sẽ chết điều kiện tiên quyết là chỉ nếu nếu như nó được tạo ra tác giả cuốn sách là ông Eliezer Sutkowski đặc biệt nhấn mạnh rằng ông ấy không phải AI hôm nay thì ngày mai sẽ hủy diệt nhân loại mà là nếu con người cứ tiếp tục kiến tạo AI theo cách của ngày hôm nay không biết nó thật sự đã học được những gì không biết cuối cùng nó muốn cái gì thậm chí ngay cả quá trình tư duy của nó cũng không nhìn thấu mà các quốc gia thì vẫn lao vào cuộc chạy đua vũ trang đua xem ai sẽ làm ra AI mạnh hơn trước thì khi một AI vượt xa con người thật sự xuất hiện nhân loại có sát xuất rất lớn sẽ bước tới chỗ chiệt phòng và cha đẻ của AI là Hinton trong cuộc phỏng vấn cũng đặc biệt nhấn mạnh ngày tận thế của AI không nhất định sẽ xảy ra đúng vậy con người quá thật không thể ra lệnh cho một thứ thông minh hơn ta cả vạn lần phải nghe theo lời của mình nhưng có một mối quan hệ không cần phải thông minh hơn đối phương mà đối phương vẫn sẽ bảo vệ bạn đó là quan hệ giữa mẹ và con đứa trẻ sơ sinh chẳng hiểu gì chẳng biết gì nhưng người mẹ vẫn bảo vệ nó không phải vì đứa bé ra lệnh cho bà bởi vì sự tiến hóa đã cài đặt vào cơ thể người mẹ một cơ chế không thể cứng lại bà không thể chịu nổi tiếng thóc của đứa con việc chăm sóc con sẽ kích hoạt phần thượng hormôn trong cơ thể của bà bà không phải bị ép buộc phải bảo vệ đứa con mà chính bà muốn bảo vệ nó Hinton nói rằng điều chúng ta cần làm chính là cài vào trong AI một thứ tương tự như vậy không phải để con người làm ông chủ của AI mà là để AI trở thành người mẹ của nhân loại để từ tầng sâu nhất nó muốn bảo vệ chúng ta, nghe thì rất lãng mạn nhưng người nói ra câu này không phải là một kẻ mộng mơ ông là một nhà khoa học đã dành 50 năm nghiên cứu bộ não của AI, một kỹ sư tự tay tạo ra AI, một người cha vẫn còn đứng vững trong buộc thuyết giảng sau khi lần lượt chứng kiến hai người vợ qua đời vừa ung thư, ông hiểu rõ hơn bất cứ ai AI nguy hiểm đến giờ nào, nhưng ông cũng tin tưởng hơn bất cứ ai rằng tất cả vẫn còn kịp Quý vị còn nhớ bệnh viện được chúng tôi nhắc tới đầu video không cơn đại dịch ấy không phải do AI của ngày hôm nay thiết kế ra mà là do một con AI chúng ta còn chưa kịp tạo ra thiết kế và cái chưa kịp tạo ra ấy chính là nơi đạt mọi hy vọng bởi điều đó có nghĩa là chúng ta vẫn còn cơ hội lựa chọn đây có lẽ chính là lý do vì sao vài năm trước bỗng có nhiều bậc kỳ tài đứng ra kêu gọi tạm dừng nghiên cứu AI bởi trước khi một AI siêu việt con người tới nơi, chúng ta vẫn cần thêm nhiều thời gian tuy nhiên có một chuyên gia lại có một cái nhìn khác với gia đẻ AI thế giới mà ông nhìn thấy còn tàn khốc hơn cả những gì Hinton đã thấy ông nói rằng cuộc khủng hoảng AI mà chúng ta đang thấy hiện nay đều chỉ là chuyện trẻ con bởi AI thật sự đáng sợ không nằm ở bên ngoài mà là nằm ngay trong phòng thí nghiệm và ông cho rằng trước khi AI hủy diệt được nhân loại, thứ mà chúng ta càng nên lo lắng hơn là chính là những con người sử dụng AI ông nói rằng những ai sống được đến năm 2038 sẽ được hưởng một thế giới không tượng câu nói này có nghĩa là gì đây chẳng lẽ trước năm 2038 sẽ có chuyện gì đó khủng khiếp xảy ra sao và sau năm 2038 vì sao con người lại có thể sống trong một thế giới không tượng chứ những nội dung nhạy cảm này kênh giải đáp tâm linh sẽ phân tích trọn vẹn trong một video tuyệt sâu riêng kính mời quý vị bấm đăng ký kênh và bật chuông thông báo bên cạnh để cùng giải đáp tâm linh tiếp tục giải mã những bí ẩn còn bỏ ngỏ của thời đại trí tuệ nhân tạo quý vị nhé xin chân thành cảm ơn tất cả những người bạn đã đồng hành cùng Ngọc Phi và kênh giải đáp tâm linh trong suốt thời gian vừa qua sự ủng hộ của quý vị đã mang ý nghĩa vô cùng to lớn đối với đội ngũ biên tập của chúng tôi cũng xin cảm ơn tất cả quý vị đã theo dõi video này hẹn gặp lại quý vị trong những show tiếp theo trên giải đáp tâm linh