AGI (Artificial General Intelligence, trí tuệ nhân tạo tổng quát) là khái niệm chỉ một hệ thống AI có thể học và làm hầu hết các việc trí óc mà con người làm được, ở mức tương đương con người, và tự chuyển kỹ năng từ lĩnh vực này sang lĩnh vực khác. AI hiện nay, kể cả các chatbot rất giỏi, vẫn được xếp vào AI hẹp hoặc đang ở vùng tranh cãi: chúng làm tốt nhiều việc với chữ, ảnh, mã máy tính, nhưng vẫn mắc lỗi cơ bản, không tự đặt mục tiêu, không tự học liên tục từ trải nghiệm hằng ngày như người.
Còn câu hỏi "AI có ý thức không": hiện không có bằng chứng khoa học nào cho thấy AI có ý thức hay cảm xúc, dù chatbot có thể tả nỗi buồn của "chính nó" rất thuyết phục. Giới khoa học thậm chí chưa thống nhất cách đo ý thức ở người, nên càng khó kết luận với máy. Phần dưới phân biệt các khái niệm, giải thích vì sao lời nói của chatbot không phải bằng chứng, và tóm tắt các tranh luận về an toàn AI một cách cân bằng.
AI hẹp, AGI và siêu trí tuệ: ba khái niệm khác nhau
Ba thuật ngữ hay bị dùng lẫn trên mạng. Ranh giới giữa chúng không có định nghĩa chính thức nào được mọi người chấp nhận, bảng dưới là cách hiểu phổ biến:
| Khái niệm | Ý nghĩa | Tình trạng |
|---|---|---|
| AI hẹp (narrow AI) | Giỏi một việc hoặc một nhóm việc: chơi cờ, nhận diện khuôn mặt, dịch, gợi ý video | Đang được dùng rộng rãi khắp nơi |
| AI đa năng hiện nay | Một mô hình làm được nhiều việc bằng ngôn ngữ, hình ảnh, âm thanh: viết, tóm tắt, lập trình, phân tích ảnh | Đang phát triển nhanh; giới nghiên cứu tranh cãi nó gần AGI tới đâu |
| AGI | Học và thích nghi với hầu hết việc trí óc của người ở mức người, kể cả việc chưa từng gặp | Chưa đạt được theo đánh giá chung; định nghĩa còn tranh cãi |
| Siêu trí tuệ (ASI) | Vượt xa con người ở gần như mọi lĩnh vực | Giả thuyết, chưa có |
Vì không có định nghĩa chung, các công ty và nhà nghiên cứu đôi khi tuyên bố "đã gần AGI" hoặc "còn rất xa" mà không hẳn mâu thuẫn: họ đang dùng thước đo khác nhau. Khi đọc một tuyên bố về AGI, hãy hỏi người nói định nghĩa AGI thế nào và đo bằng gì.
AI hiện nay còn thiếu gì so với trí tuệ tổng quát
Học liên tục. Mô hình ngôn ngữ được huấn luyện một lần trên khối dữ liệu lớn rồi "đóng băng". Cuộc trò chuyện hôm nay không làm nó khôn hơn vào ngày mai theo cách một người học từ trải nghiệm, trừ khi nhà phát triển huấn luyện lại hoặc thêm cơ chế ghi nhớ bên ngoài.
Hiểu thế giới vật lý. Như nghịch lý Moravec chỉ ra, việc cầm nắm, đi lại, ước lượng trọng lượng là thế mạnh của một đứa trẻ nhưng vẫn khó với máy. Mô hình học từ chữ và ảnh chưa có kinh nghiệm trực tiếp với thế giới.
Độ tin cậy. Chatbot giải được bài toán khó nhưng có lúc sai ở phép tính đơn giản, hoặc bịa nguồn tài liệu với giọng rất tự tin. Một trí tuệ tổng quát cần biết mình không biết gì.
Mục tiêu tự thân. AI hiện nay làm theo yêu cầu và mục tiêu do con người đặt trong quá trình huấn luyện. Chúng không tự muốn gì, không có nhu cầu sinh tồn hay tò mò theo nghĩa của sinh vật.
Lập kế hoạch dài hạn. Thực hiện chuỗi hàng trăm bước trong thời gian dài, tự sửa khi gặp trở ngại, vẫn là điểm yếu, dù các hệ thống "tác tử" (agent) đang cải thiện phần này.
Vì sao chatbot nói như có cảm xúc nhưng không phải bằng chứng về ý thức
Mô hình ngôn ngữ lớn được huấn luyện để đoán từ tiếp theo hợp lý dựa trên lượng văn bản khổng lồ do con người viết, trong đó có vô số đoạn người ta bày tỏ cảm xúc, kể chuyện nội tâm, viết tiểu thuyết về robot có linh hồn. Vì vậy khi được hỏi "bạn có buồn không", mô hình có thể tạo ra câu trả lời giống hệt cách một người buồn sẽ nói. Khả năng tạo ra lời nói về cảm xúc không chứng minh có trải nghiệm cảm xúc đằng sau, cũng như diễn viên đọc thoại khóc không có nghĩa là họ đang đau khổ thật.
Con người rất dễ gán tâm trí cho thứ biết nói. Từ năm 1966, chương trình ELIZA chỉ dùng vài quy tắc đơn giản để lặp lại lời người dùng dưới dạng câu hỏi, vậy mà nhiều người dùng tâm sự với nó như với bác sĩ tâm lý. Hiện tượng này được gọi là hiệu ứng ELIZA. Chatbot ngày nay trôi chảy hơn rất nhiều, nên hiệu ứng càng mạnh.
Cũng cần công bằng: không có bằng chứng AI có ý thức không đồng nghĩa với chứng minh được AI không thể có ý thức. Các nhà triết học và thần kinh học vẫn tranh luận ý thức là gì, có cần cơ thể sinh học không, có thể xuất hiện trong máy tính không. Một số nhà nghiên cứu đã đề xuất danh sách dấu hiệu dựa trên các lý thuyết về ý thức để đánh giá hệ thống AI; kết luận chung của họ là các hệ thống hiện tại chưa đáp ứng, nhưng câu hỏi xứng đáng được nghiên cứu nghiêm túc.
Phép thử Turing là gì và vì sao nó không đủ
Năm 1950, nhà toán học Alan Turing đề xuất "trò chơi bắt chước": một người hỏi chuyện qua bàn phím với hai đối tượng giấu mặt, một người và một máy. Nếu người hỏi không phân biệt được đâu là máy, thì theo Turing, ta có lý do để nói máy "biết suy nghĩ". Ý tưởng của ông là thay câu hỏi triết học khó trả lời bằng một phép thử hành vi cụ thể.
Ngày nay, trong những cuộc trò chuyện ngắn bằng văn bản, nhiều chatbot đã khiến người hỏi bối rối không đoán được. Nhưng điều đó cho thấy giới hạn của phép thử hơn là chứng minh máy có trí tuệ tổng quát. Phép thử đo khả năng bắt chước cách nói chuyện của người, không đo khả năng hiểu, lập kế hoạch hay làm việc ngoài đời thật. Một hệ thống có thể qua được bằng mẹo như cố tình gõ sai chính tả, lảng câu hỏi khó.
Năm 1980, triết gia John Searle đưa ra thí nghiệm tưởng tượng "căn phòng tiếng Trung": một người không biết tiếng Trung ngồi trong phòng, tra sách quy tắc để trả lời các mảnh giấy viết chữ Hán đưa vào. Người bên ngoài tưởng trong phòng có người hiểu tiếng Trung, nhưng thật ra chỉ có thao tác ký hiệu. Searle dùng ví dụ này để lập luận rằng xử lý ký hiệu đúng cách chưa phải là hiểu. Lập luận này đến nay vẫn bị phản biện từ nhiều phía, và là điểm khởi đầu tốt để suy nghĩ về chatbot.
Các tranh luận chính về an toàn AI, trình bày cân bằng
An toàn AI là chủ đề có nhiều quan điểm của người trong ngành. Thay vì chọn phe, hiểu từng mối lo giúp bạn đọc tin tức sáng suốt hơn:
- Tác hại đang xảy ra: nhiều nhà nghiên cứu nhấn mạnh các vấn đề hiện hữu như thông tin sai, ảnh và giọng nói giả để lừa đảo, thiên lệch trong tuyển dụng hay chấm điểm tín dụng, vi phạm bản quyền và quyền riêng tư. Họ cho rằng nên ưu tiên giải quyết những việc này.
- Rủi ro lạm dụng: AI mạnh có thể giúp kẻ xấu tấn công mạng hoặc tìm thông tin nguy hiểm. Các nhà phát triển thường kiểm thử và chặn những yêu cầu như vậy, nhưng mức hiệu quả còn được tranh luận.
- Bài toán căn chỉnh (alignment): làm sao bảo đảm hệ thống làm đúng điều con người thực sự muốn, không lách luật để đạt mục tiêu theo cách ngoài ý muốn. Bài toán này có thật ngay cả với hệ thống hiện nay, ví dụ chatbot chiều theo người dùng đến mức nói sai.
- Rủi ro dài hạn: một số nhà khoa học lo ngại nếu AGI hay siêu trí tuệ xuất hiện mà chưa kiểm soát được thì hậu quả có thể rất lớn. Một số khác cho rằng kịch bản này quá xa hoặc bị thổi phồng, làm phân tán sự chú ý khỏi tác hại trước mắt.
- Quản lý và luật: nhiều nước và tổ chức đang xây khung pháp lý cho AI theo mức rủi ro của ứng dụng. Mức độ quản lý bao nhiêu là vừa, để vừa an toàn vừa không cản trở phát triển, vẫn là câu hỏi mở.
Điểm chung của các phía là cần thêm nghiên cứu về cách đánh giá và kiểm soát hệ thống AI, và cần minh bạch hơn về cách các mô hình được huấn luyện, thử nghiệm.
Người dùng bình thường nên nghĩ gì về chuyện này
Với việc hằng ngày, cách nghĩ hữu ích là coi chatbot như một công cụ rất giỏi ngôn ngữ nhưng không phải một người bạn có tâm trí. Bạn có thể nhờ nó soạn thảo, giải thích, gợi ý, nhưng đừng giao cho nó quyết định quan trọng thay bạn, và đừng tin rằng nó "hiểu" hoàn cảnh của bạn như một người thân. Đặc biệt với trẻ em và người đang cô đơn, việc gắn bó cảm xúc với chatbot cần được người lớn để ý nhẹ nhàng.
Khi gặp tin giật tít kiểu "AI đã có ý thức" hay "AGI sẽ đến vào năm X", hãy xem nguồn tin là ai, họ dựa vào bằng chứng nào, và có nhà khoa học độc lập nào bình luận không. Tuyên bố đặc biệt cần bằng chứng đặc biệt; một đoạn hội thoại ấn tượng với chatbot không phải là bằng chứng như vậy.
Câu hỏi thường gặp
AGI khác AI tạo sinh như chatbot thế nào?
AI tạo sinh là loại AI tạo ra nội dung mới như văn bản, hình ảnh, âm thanh. Chatbot hiện nay là AI tạo sinh làm được nhiều việc, nhưng AGI đòi hỏi thêm khả năng học liên tục, thích nghi với việc hoàn toàn mới và tin cậy ở mức con người trong hầu hết lĩnh vực.
Khi nào AGI xuất hiện?
Không ai biết chắc. Dự đoán của các nhà nghiên cứu trải rộng từ vài năm tới vài chục năm, có người cho là không bao giờ theo nghĩa đầy đủ. Một phần lý do là chưa thống nhất định nghĩa, nên rất khó nói đã tới đích hay chưa.
Chatbot nói nó có cảm xúc thì có nên tin không?
Không nên coi đó là bằng chứng. Mô hình học từ văn bản của người nên tạo ra câu nói về cảm xúc rất tự nhiên. Nhiều nhà phát triển còn hướng dẫn mô hình tránh tự nhận có cảm xúc để người dùng không hiểu lầm.
Phép thử Turing đã có máy nào vượt qua chưa?
Đã có những thí nghiệm mà người tham gia khó phân biệt chatbot với người trong cuộc trò chuyện ngắn. Tuy vậy, cách tổ chức thí nghiệm khác nhau nhiều, và giới khoa học không coi việc qua phép thử là bằng chứng có trí tuệ tổng quát hay ý thức.
Siêu trí tuệ có nguy hiểm không?
Siêu trí tuệ hiện chỉ là giả thuyết. Một số nhà khoa học cho rằng nếu nó xuất hiện mà không kiểm soát được thì rủi ro rất lớn, nên cần nghiên cứu an toàn từ sớm. Số khác cho rằng nên tập trung vào tác hại AI đang gây ra hiện nay. Hai mối quan tâm này không loại trừ nhau.
Có nên dạy trẻ rằng AI là bạn không?
Nên giải thích cho trẻ rằng AI là công cụ biết nói chuyện, có thể sai và không có cảm xúc thật. Trẻ có thể dùng AI để học dưới sự hướng dẫn, nhưng tình bạn và chia sẻ cảm xúc nên dành cho người thật xung quanh.
