Siêu trí tuệ đã đến. Có lẽ bạn không để ý, bởi vì hóa ra nó khá là từ từ.
Không tin tôi? Hãy tự kiểm tra. Nói chuyện với Fable 5 trong một giờ, sau đó nói chuyện với mười người bạn thông minh nhất của bạn. Ai thông minh hơn? Đừng lo, họ sẽ không bị xúc phạm đâu.
Chúng ta từng được bảo rằng sẽ có một điều gì đó lớn lao hơn. Một khi máy móc vượt qua một ngưỡng nào đó, chỉ số IQ của hệ thống sẽ tăng vọt lên những tầm cao mà chúng ta không thể theo kịp, và chúng ta sẽ chia sẻ hành tinh này với một thứ gì đó có thể thiết kế động cơ warp và suy nghĩ những ý tưởng vượt xa chúng ta như suy nghĩ của tôi vượt xa con chó của tôi vậy.
Những gì chúng ta có được là một công cụ viết code xuất sắc, đánh bại con người trong một loạt nhiệm vụ đáng kinh ngạc, và rõ ràng sẽ định hình lại nền kinh tế. Nó cũng, bằng cách nào đó, mang tính từ từ. Không có sự cất cánh. Không có vụ nổ. Đó là điều kỳ lạ.
Tôi nghĩ chúng ta đã đánh giá quá cao trí thông minh, hoặc hiểu sai bản chất của nó.
Đây là cách tôi định nghĩa nó. Chúng ta nắm giữ một tập hợp mỏng manh các sự kiện về thế giới, và trí thông minh hay lý luận là thứ lấp đầy khoảng trống giữa chúng. Nó ngoại suy giữa những điều chúng ta đã biết, và các LLM thật xuất sắc trong việc đó. Bằng cách nghiên cứu lời nói của chúng ta, chúng đã học được cấu trúc suy nghĩ của chúng ta. Chúng ta sẽ sớm có nó với số lượng không giới hạn, với IQ 200, với chi phí gần như bằng không.
Khi khoảng trống giữa các sự kiện hoạt động tốt, điều này gần như là thần thánh. Luật bất động sản không khó. Chúng ta đã tạo ra nó, nó nhất quán nội tại, và một mô hình nắm giữ mọi đạo luật và phán quyết sẽ đánh bại bất kỳ luật sư nào miễn phí. Lập trình, toán học và hầu hết công việc hành chính cũng dễ dàng tương tự. Điều khiến chúng dễ dàng là chúng có không gian giải pháp tương đối bằng phẳng và có thể kiểm chứng một cách dễ dàng.
Hầu hết những gì quan trọng không hoạt động như vậy. Vũ trụ chủ yếu là hành vi nổi lên của các hệ thống phức tạp. Khuấy kem vào cà phê. Ngắm một cơn bão hình thành từ sự khác biệt nhiệt độ khí quyển và hơi nước. Các quy tắc địa phương thì đơn giản và cơn lốc xoáy thì không. Trong các hệ thống như thế này, không có lượng lý luận nào có thể đưa ra câu trả lời, bởi vì không có lối tắt nào ẩn trong những khoảng trống. Bạn phải chạy thử hệ thống đó. Và việc chạy thử nó có một giới hạn riêng, vì những sai sót nhỏ sẽ tích lũy, đó là lý do tại sao không có siêu máy tính nào có thể đưa ra cho bạn một dự báo thời tiết chính xác trong hai tuần. Vật thể nhỏ nhất có thể mô phỏng hoàn hảo vũ trụ chính là vũ trụ. Các hệ thống của con người cũng phức tạp tương tự. Chúng ta thậm chí không thể dự đoán một cách đáng tin cậy hành vi của chính mình, chứ đừng nói đến các đặc tính nổi lên của các nhóm người lớn hành động theo thời gian.
Đó, tôi nghi ngờ, là lý do tại sao vụ nổ không bao giờ xảy ra. Câu chuyện về sự cất cánh cho rằng giới hạn nằm ở khả năng tư duy. Nhưng không phải vậy. Giới hạn nằm ở sự tiếp xúc với thực tế. Một người lý luận thông minh hơn sẽ lấp đầy khoảng trống giữa các sự kiện đã biết trong các lĩnh vực đơn giản nhanh hơn và tốt hơn, nhưng nó không tạo ra các sự kiện mới.
Một AI sẽ đưa cho bạn một thiết kế thực sự sáng tạo cho một cánh tuabin máy bay phản lực. Nó có thể có khả năng hoạt động cao hơn nhiều so với bất cứ thứ gì các kỹ sư của bạn nghĩ ra. Nó vẫn rất có thể sẽ thất bại, bởi vì đó là tỷ lệ cơ bản ở rìa của những gì bất kỳ ai biết. Cách duy nhất để tìm ra là chế tạo cánh tuabin đó và cố gắng phá vỡ nó.
Đó là giới hạn thực sự của việc học, và nó không quan tâm bạn thông minh đến đâu. Nghĩ ra ý tưởng chưa bao giờ là phần khó khăn. Phần khó khăn là thực tế trả lời chúng nhanh như thế nào.
Không điều nào trong số này sẽ làm bạn lo lắng. Bất cứ điều gì một người có thể giải quyết tại bàn làm việc bằng cách suy nghĩ, một máy tính giờ đây sẽ giải quyết miễn phí. Đó là rất nhiều, và những công cụ này sẽ cải thiện đáng kể mức sống của chúng ta. Nhưng hầu hết các vấn đề không thể được giải quyết tại bàn làm việc bằng cách suy nghĩ. Những vấn đề đó vẫn bị giới hạn bởi tốc độ chúng ta có thể chế tạo thứ đó và xem liệu nó có đứng vững hay không, và đồng hồ đó hầu như không nhúc nhích.
Để nói rõ, tôi rất lạc quan! Khả năng lý luận IQ 200 sẵn có sẽ là một món quà trời cho, giống như sức mạnh cơ giới hóa đã từng. Nếu công việc của trí óc có giá trị ngang với công việc của cơ bắp, thì những thay đổi có thể ở quy mô của cuộc cách mạng công nghiệp. Các cháu của tôi sẽ ngạc nhiên trước sự nghèo nàn của tôi cũng như tôi ngạc nhiên trước sự nghèo nàn của các cụ cố của tôi. Nhưng chúng ta sẽ không thấy một "sự cất cánh" kỳ lạ nào đó với động cơ warp và những suy nghĩ mà chúng ta sẽ hiểu theo cách con chó của tôi hiểu suy nghĩ của tôi. Tương lai tươi sáng. Và có thể hiểu được.
