Anthropic đã bật khả năng suy luận trong nước cho các mô hình Claude AI của mình ở Ấn Độ thông qua Amazon Bedrock, nghĩa là các yêu cầu được gửi qua điểm cuối Ấn Độ của công ty hiện được xử lý hoàn toàn trên các máy chủ đặt trong nước.

Động thái này, được The Economic Times và một loạt cơ quan báo chí Ấn Độ đưa tin vào ngày 5 tháng 10, trực tiếp giải quyết các yêu cầu về nơi lưu trữ dữ liệu của các lĩnh vực được quản lý như ngân hàng, chính phủ và chăm sóc sức khỏe, cho phép các doanh nghiệp duy trì khối lượng công việc AI nhạy cảm bên trong biên giới Ấn Độ. Claude Opus 5, Sonnet 5 và Haiku 4.5 đều có sẵn với tính năng suy luận trong nước thông qua Amazon Bedrock. Để biết thêm về công ty đằng sau Claude, hãy xem thông tin về ngành AI của chúng tôi.

Cách thức hoạt động của suy luận trong nước

Các cơ chế rất đơn giản nhưng có hậu quả. Nói một cách đơn giản, khi một khách hàng Ấn Độ sử dụng điểm cuối Ấn Độ, lời nhắc gửi tới Claude và phản hồi của mô hình đều được xử lý trên các máy chủ đặt tại Ấn Độ. Amazon Bedrock, nền tảng hợp nhất của AWS để truy cập và triển khai các mô hình AI tổng hợp, cung cấp cơ sở hạ tầng để khách hàng tiếp cận Claude tại địa phương.

Điều đó khác với cách sắp xếp tiêu chuẩn, trong đó lưu lượng suy luận từ người dùng Ấn Độ được xử lý bởi các trung tâm dữ liệu ở các khu vực khác. Nó mang lại cho các nhóm tuân thủ thứ mà trước đây họ thiếu: một sự đảm bảo có thể kiểm tra được rằng khối lượng công việc AI — lời nhắc, kết quả đầu ra và bất kỳ tài liệu đính kèm nào — không bao giờ rời khỏi khu vực pháp lý.

Tại sao nơi lưu trữ dữ liệu lại quan trọng

Đối với các nhà cung cấp AI toàn cầu, vị trí suy luận đã trở thành một vấn đề mang tính cạnh tranh. Nhiều ngành được quản lý - tổ chức tài chính, cơ quan chính phủ, nhà cung cấp dịch vụ chăm sóc sức khỏe - hoạt động theo các quy tắc hạn chế nơi dữ liệu có thể được xử lý và lưu trữ. Cho đến nay, những yêu cầu đó của khách hàng Ấn Độ gửi đến Claude đều được xử lý trên cơ sở hạ tầng bên ngoài quốc gia.

Irina Ghose, giám đốc điều hành tại Anthropic India, cho biết trong một cuộc phỏng vấn với Times of India: “Các yêu cầu gửi đến Claude thông qua điểm cuối Ấn Độ được xử lý trên các máy chủ đặt tại Ấn Độ”. "Đó là điều mà khách hàng của chúng tôi ở Ấn Độ, đặc biệt là trong các lĩnh vực được quản lý, đã yêu cầu chúng tôi: sử dụng Claude cho công việc quan trọng nhất của họ với mọi yêu cầu được xử lý trong nước."

Ghose nói thêm rằng các tổ chức tài chính, cơ quan chính phủ và các doanh nghiệp lớn đã tìm kiếm sự suy luận cục bộ vì các yêu cầu về quy định và xử lý dữ liệu, đồng thời việc triển khai vốn đang chờ đợi khả năng này giờ đây có thể được tiến hành.

Satinder Pal Singh, giám đốc kiến ​​trúc sư giải pháp tại AWS Ấn Độ và Nam Á, cho biết các biện pháp kiểm soát duy trì hoạt động xử lý trong nước đã được tích hợp vào dịch vụ, cùng với các quy trình kiểm tra và kiểm soát quyền truy cập mà các nhóm rủi ro và tuân thủ yêu cầu trước khi đưa AI vào sản xuất.

Ấn Độ là thị trường lớn thứ hai của Anthropic

Việc chuyển đổi kỹ thuật mang lại sức nặng chiến lược vì mức độ Anthropic đã chi phối Ấn Độ. Quốc gia này là thị trường lớn thứ hai của công ty đối với Claude.ai và người dùng Ấn Độ mang đến cho nó một khối lượng công việc kỹ thuật bất thường: phát triển phần mềm chiếm 45,2% nhiệm vụ liên quan đến công việc mà người dùng trong nước giao cho Claude - thị phần cao nhất so với bất kỳ thị trường nào, theo Ghose.

Việc áp dụng trong năm qua đã mở rộng trên khắp các lĩnh vực ngân hàng và thanh toán, doanh nghiệp lớn, dịch vụ CNTT, công ty kỹ thuật số, chăm sóc sức khỏe, khoa học và dịch vụ công. Quan hệ đối tác của Anthropic với gã khổng lồ công nghệ Ấn Độ minh họa cho quy mô:

  • TCS đang trang bị cho 50.000 cộng sự của Claude.
  • Infosys đang kết hợp Claude với nền tảng Topaz của nó.
  • Cognizant sử dụng Claude trong các hệ thống mà nó xây dựng cho khách hàng.
  • LTTS đang nhúng Claude vào nền tảng kỹ thuật của mình.
  • Swiggy đã giúp các dịch vụ hàng đầu có thể truy cập được thông qua Giao thức bối cảnh mô hình, với Instamart cho phép khách hàng duyệt và mua hơn 40.000 sản phẩm thông qua lời nhắc.

Cú hích lớn hơn của Ấn Độ

Việc ra mắt là một phần của kế hoạch mở rộng rộng hơn. Anthropic đã mở văn phòng ở Bengaluru vào tháng 2 – văn phòng thứ hai ở châu Á sau Tokyo – và có kế hoạch phát triển đội ngũ Ấn Độ cũng như các mối quan hệ đối tác địa phương.

Công ty cũng đang đầu tư vào việc Claude hiểu người dùng Ấn Độ đến mức nào. Họ đang hợp tác với công ty dữ liệu Karya để cải thiện dữ liệu đào tạo của Claude trên 10 ngôn ngữ Ấn Độ: Hindi, Bengali, Marathi, Telugu, Tamil, Punjabi, Gujarati, Kannada, Malayalam và Urdu, với mục đích cải thiện hiệu suất trên các ngôn ngữ, lĩnh vực và bối cảnh văn hóa của Ấn Độ.

Việc xây dựng cộng đồng cũng đã tiến triển nhanh chóng. Ấn Độ được ghi nhận là một trong những quốc gia có số lượt đăng ký cao nhất khi Anthropic ra mắt Mạng lưới đối tác Claude vào tháng 3 và khoảng 5.000 người đã được chứng nhận tại sự kiện chứng nhận đối tác Claude đầu tiên ở Bengaluru vào tháng 8.

Ý nghĩa của thị trường

Suy luận trong nước loại bỏ một trong những phản đối cơ cấu cuối cùng mà các doanh nghiệp Ấn Độ có thể đưa ra để phản đối việc triển khai Claude cho công việc quan trọng. Nó cũng phù hợp với một mô hình rộng hơn trong đó các nhà cung cấp AI bản địa hóa cơ sở hạ tầng theo từng quốc gia - một cẩm nang mà AWS biết rõ từ hoạt động kinh doanh trên nền tảng đám mây của mình và hiện đang mở rộng sang AI tổng hợp thông qua Bedrock.

Đối với hệ sinh thái AI của Ấn Độ, việc ra mắt diễn ra cùng với sự thúc đẩy của chính phủ về chủ quyền kỹ thuật số, mang đến cho các doanh nghiệp một mô hình cấp cao đáp ứng các yêu cầu xử lý của địa phương mà không cần chờ các giải pháp thay thế trong nước hoàn thiện. Ghose cho biết Anthropic kỳ vọng động lực sẽ phát triển nhanh chóng từ đây.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →