Trung tâm Moscone của San Francisco đã tổ chức một cuộc bất đồng công khai bất thường trong tuần này: các nhà lãnh đạo của Nvidia, Anthropic và OpenAI, xuất hiện trên cùng một sân khấu cách nhau vài giờ tại hội nghị Dreamforce của Salesforce, đã đưa ra những câu trả lời hoàn toàn khác nhau cho câu hỏi AI nên được phép phát triển nhanh đến mức nào.
Giám đốc điều hành Nvidia Jensen Huang nói với Giám đốc Salesforce Marc Benioff rằng việc đặt tốc độ so với an toàn là sai. “Đó là một lựa chọn sai lầm”, Huang nói, theo CNBC. "Bạn chắc chắn có thể có cả hai cùng một lúc." For more context on this story, see our ongoing latest AI developments.
Quan điểm của anh ấy trái ngược hoàn toàn với quan điểm được đưa ra trước đó trong ngày của Giám đốc điều hành Anthropic Dario Amodei và sau đó là Giám đốc điều hành OpenAI Sam Altman, trong một cuộc tranh luận đã chuyển từ blog nghiên cứu sang bài phát biểu quan trọng của hội nghị tại Washington trong khoảng thời gian một tuần.
Bài thuyết trình chậm lại của Amodei có được nền tảng bài phát biểu chính
Amodei xuất hiện đầu tiên, tham gia cùng Benioff trong bài phát biểu quan trọng hàng năm của Salesforce trước khoảng 12.000 khán giả. Sự xuất hiện diễn ra sau một bài luận mà Amodei xuất bản vào cuối tuần qua kêu gọi ngành công nghiệp giảm tốc độ phát triển mô hình, một đề xuất mà theo ông có thể hạn chế mức độ cải thiện khả năng nhanh chóng mà không "hy sinh lợi thế thương mại hoặc sự dẫn đầu của Hoa Kỳ về AI".
Theo CNBC, Amodei coi việc kiềm chế tự nguyện là một bài kiểm tra khả năng lãnh đạo của ngành. Ông nói với Benioff: “Tôi nghĩ đó là cách để dẫn dắt ngành tiến lên, làm gương và nói rằng mọi người luôn có thể trở nên tốt hơn”.
Bài luận nhanh chóng thu hút sự ủng hộ của công chúng từ các giám đốc điều hành khác trong ngành, bao gồm Sam Altman của OpenAI, Giám đốc điều hành SpaceX Elon Musk và chủ tịch Google DeepMind Demis Hassabis. Nó xuất hiện vài ngày sau khi các nhà nghiên cứu trong ngành đưa ra cảnh báo về khả năng gây ra tác hại thảm khốc của AI, khiến cho cuộc tranh luận về sự chậm lại trở nên cấp bách mới.
Huang: Lực lượng thị trường, không phải luật mới
Huang, công ty đã trở thành công ty có giá trị nhất thế giới nhờ bán phần cứng đào tạo và vận hành các mô hình tiên tiến, đã bác bỏ cả tiền đề về sự đánh đổi lẫn ý tưởng về quy định mới. Ông lập luận rằng các lực lượng thị trường đã tồn tại kỷ luật hành vi liều lĩnh đó và việc các nhà phát triển mô hình hành động có trách nhiệm với sản phẩm của họ là tùy thuộc vào các nhà phát triển mô hình.
“Chạy nhanh nhất có thể,” Huang nói với Benioff. “Nhưng nếu bạn cảm thấy tại bất kỳ thời điểm nào đó công ty đang mất kiểm soát hoặc sản phẩm không an toàn, hãy tạm dừng và đảm bảo rằng bạn làm đúng.”
Sự khác biệt quan trọng: Huang không lập luận rằng các công ty không bao giờ nên tạm dừng, chỉ rằng quyết định nên thuộc về mỗi công ty thay vì được thực thi thông qua luật pháp hoặc các thỏa thuận điều phối nhịp độ toàn ngành. Một ngày trước đó, tại Hội nghị thượng đỉnh toàn năng ở Los Angeles, Huang đã nhận được cuộc gọi từ loa ngoài từ Tổng thống Donald Trump, người bày tỏ lo ngại về việc mọi người đang cố gắng cản trở việc xây dựng trung tâm dữ liệu AI. “Chúng tôi sẽ không để điều đó xảy ra, thưa ông,” Huang trả lời.
Altman: An toàn 'Không nên có Vòng loại'
Việc Altman bước lên sân khấu Dreamforce diễn ra muộn hơn trong ngày và anh ấy đặt mình ở vị trí gần Amodei hơn là Huang. Trong cuộc trò chuyện bên lề với Benioff, Altman cho biết sự an toàn và giám sát cần phải được đặt lên trước khả năng dựa trên sức mạnh của các mẫu xe hiện tại.
Ông nhắm vào các công ty đưa ra cam kết an toàn dựa trên hành vi của đối thủ cạnh tranh. Altman nói: “Bạn có những công ty nói những câu như, 'Chúng tôi sẽ chỉ chịu trách nhiệm nếu các công ty khác chịu trách nhiệm'", Altman nói và nói thêm rằng khi mọi người hỏi một công ty sẽ làm gì để đảm bảo an toàn "bất kể điều gì", câu trả lời sẽ không có chỗ cho các điều kiện. "Không nên có vòng loại về điều đó."
Benioff ngồi ở giữa
Benioff, người chủ trì cả ba giám đốc điều hành, đã từ chối chọn một bên về tốc độ. Ông nói với các phóng viên: “Nếu họ cảm thấy nên giảm tốc độ thì họ nên giảm tốc độ. Nếu họ cảm thấy cần tăng tốc thì họ nên tăng tốc”.
Hội nghị cũng cho thấy mối quan hệ kinh doanh đã trở nên phức tạp như thế nào. Vào thứ Ba, Salesforce và Nvidia đã công bố một mô hình suy luận mới cho nền tảng Agentforce của Salesforce được xây dựng trên một trong những mô hình Nemotron trọng lượng mở của Nvidia. Vào cuối tháng 8, Salesforce và Anthropic đã mở rộng quan hệ đối tác chiến lược và ra mắt "Claudeforce", cho phép nhân viên bán hàng truy cập dữ liệu Salesforce từ bên trong Claude.
Tại sao việc chia tách lại quan trọng
Các sàn giao dịch Dreamforce đã kết tinh những gì đã trở thành điểm yếu trung tâm trong các cuộc tranh luận về quản trị AI: liệu các biện pháp kiềm chế có nên được phối hợp và có khả năng được hệ thống hóa hay để lại cho áp lực cạnh tranh và sự phán xét của từng công ty.
Đề xuất của Amodei vẫn mang tính tự nguyện, nhưng sự tán thành của nó bởi các CEO của OpenAI, DeepMind và xAI đánh dấu lần đầu tiên các nhà lãnh đạo của các phòng thí nghiệm lớn ở biên giới công khai ủng hộ việc giảm tốc độ. Lập luận phản bác của Huang, được đưa ra từ công ty có giá trị nhất thế giới, che đậy cho các giám đốc điều hành và nhà hoạch định chính sách, những người cho rằng việc bắt buộc phải thận trọng sẽ mang lại lợi thế cho các đối thủ cạnh tranh, đặc biệt là ở Trung Quốc.
Tổng thống Trump đã phản đối các quy định mới về AI, một lập trường đi ngược lại lời kêu gọi giảm tốc của chính ngành này, như CNBC đã lưu ý trong một phân tích liên quan. Điều đó khiến bất kỳ thỏa thuận nhịp độ tự nguyện nào không có cơ chế thực thi mà những người ủng hộ an toàn cho rằng họ cần, đồng thời khiến cuộc tranh luận vẫn vững chắc về hệ thống danh dự của công ty cho đến nay.
Với việc các nhà nghiên cứu công khai cảnh báo về những rủi ro thảm khốc và lãnh đạo của các công ty lớn nhất trong lĩnh vực này hiện đang công khai không đồng ý trên sân khấu, câu hỏi về nhịp độ có thể sẽ chi phối chu kỳ chính sách tiếp theo ở Washington - bất kể thị trường quyết định hành động như thế nào trong thời gian chờ đợi.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
