Một cuộc điều tra của New York Times được công bố hôm thứ Bảy cáo buộc rằng DraftKings, một trong những nhà điều hành cá cược thể thao lớn nhất ở Hoa Kỳ, đã xây dựng một mô hình học máy được thiết kế để xác định khách hàng nào có nhiều khả năng bị mất tiền nhất – và sử dụng những điểm số đó để hướng dẫn ai nhận được tiền thưởng đặt cược và khuyến mãi chơi miễn phí.

Báo cáo mô tả một hệ thống trong đó công nghệ dự đoán tương tự giúp các chương trình khuyến mại mang lại nhiều lợi nhuận hơn có thể được sử dụng để phát hiện khách hàng có nguy cơ bị tổn hại do cờ bạc. Theo Times, ứng dụng bảo vệ đó đã được bắt đầu nhưng chưa bao giờ kết thúc.

Mô hình hoạt động như thế nào

Theo Times, mô hình này, được xây dựng vào năm 2023, đã ghi điểm cho khách hàng của DraftKings về số tiền mà họ dự kiến ​​sẽ mất sau khi nhận được tiền đặt cược hoặc tiền thưởng miễn phí. Để đưa ra dự đoán đó, nó đã kiểm tra các tín hiệu bao gồm tần suất người dùng chơi, số dư tài khoản, tỷ lệ thua trên cược và ước tính riêng về việc liệu người dùng có khả năng ngừng đánh bạc hoàn toàn hay không.

Điểm cao hơn có nghĩa là khách hàng được dự đoán sẽ tạo ra nhiều doanh thu hơn trên mỗi đô la quảng cáo chi tiêu. Nói cách khác, theo thiết kế, những người có nhiều khả năng nhận được cược miễn phí nhất là những người mà thuật toán dự đoán sẽ thua nhiều nhất.

Jayden Butts, cựu nhà phân tích dữ liệu của DraftKings, đã mô tả logic cơ bản với Times: "Chúng tôi đang tìm kiếm những đặc điểm và tính năng mà chúng tôi có thể nhắm mục tiêu cho thấy một khoản đầu tư tốt."

Kết quả kinh doanh

Cách tiếp cận này dường như đã có hiệu quả về mặt thương mại. Theo Times, các giám đốc điều hành của DraftKings cho biết khoa học và phân tích dữ liệu đã cải thiện tỷ suất lợi nhuận của sách thể thao nhờ khuyến mãi lên 13% vào năm 2025 và AI đã giúp cá nhân hóa hàng trăm triệu đô la trong chi tiêu khuyến mại.

Con số đó minh họa tại sao việc nhắm mục tiêu dự đoán lại trở thành trọng tâm trong nền kinh tế của ngành cá cược thể thao. Cược thưởng là những giao dịch mua lại khách hàng tốn kém; một mô hình dự đoán các khoản lỗ dự kiến ​​có thể hướng từng đô la khuyến mãi đến những người dùng có nhiều khả năng chuyển chúng thành hoạt động đặt cược bền vững nhất.

Công cụ chưa hoàn thành

Phát hiện rõ ràng nhất của cuộc điều tra liên quan đến những gì DraftKings đã chọn không xây dựng. Các nhân viên cũ nói với tờ Times rằng một sáng kiến ​​riêng biệt nhằm tạo ra điểm số rủi ro trong việc xác định khách hàng có vấn đề về cờ bạc tiềm ẩn đã bị gác lại - mặc dù, theo báo cáo, cơ sở hạ tầng dữ liệu cơ bản có thể đã hỗ trợ nó. Cơ sở hạ tầng để nhìn theo cả hai hướng được cho là đã tồn tại; chỉ có mô hình định hướng lợi nhuận được hoàn thành.

DraftKings đã đẩy lùi khung hình. Giám đốc phụ trách mảng cờ bạc của công ty, Lori Kalani, nói với tờ Times rằng DraftKings giám sát hành vi rủi ro của khách hàng và cho biết công ty đã từ chối triển khai công nghệ dự đoán rủi ro vì nó không có đủ bằng chứng. DraftKings cũng nói với Times rằng họ "bác bỏ mọi hàm ý" rằng hoạt động tiếp thị của họ nhắm mục tiêu không công bằng vào khách hàng, khẳng định rằng các chương trình khuyến mãi dành cho những người dùng thể hiện việc sử dụng nền tảng gắn bó và bền vững thay vì những người dùng được xếp hạng theo số tiền họ mất.

Công ty công khai nêu bật các sáng kiến ​​chơi game có trách nhiệm, bao gồm cả việc cộng tác với công cụ Gamalyze của Mindway AI và hợp tác với IC360 để giám sát tính toàn vẹn và tuân thủ. Liệu những công cụ đó có thu hẹp khoảng cách cụ thể được mô tả bởi các nhân viên cũ hay không – chủ động chấm điểm và bảo vệ người dùng có nguy cơ cao – vẫn chưa rõ ràng dựa trên báo cáo có sẵn.

Một trường hợp kiểm tra đạo đức AI ngoài cờ bạc

Câu chuyện diễn ra trong bối cảnh ngày càng có nhiều sự giám sát chặt chẽ về cách các công ty hướng tới người tiêu dùng sử dụng AI dự đoán. Căng thẳng cốt lõi không phải là công nghệ tồn tại — việc chấm điểm người dùng theo giá trị dự đoán là thông lệ tiêu chuẩn đối với các gói đăng ký, quảng cáo và công nghệ tài chính — mà điều gì sẽ xảy ra khi cùng một mô hình xác định khách hàng sinh lợi nhiều nhất cũng xác định khách hàng dễ bị tổn thương nhất.

Các cơ quan quản lý đã đi theo hướng này một thời gian. Cụ thể là trong lĩnh vực cờ bạc, các quan chức đã đặt câu hỏi về việc sử dụng dữ liệu của ngành để định hình hành vi của người chơi và khu vực Philadelphia đã chứng kiến ​​các vụ kiện tụng về các hoạt động quảng cáo của DraftKings. Nếu báo cáo của Times đúng, nó sẽ cung cấp cho các nhà lập pháp và cơ quan quản lý cờ bạc một điều gì đó cụ thể hơn mối quan tâm chung của ngành: một trường hợp bị cáo buộc trong đó dự đoán tác hại và dự đoán lợi nhuận là khả thi về mặt kỹ thuật và chỉ có một trường hợp được hoàn thành.

Đối với người dùng, việc thực hiện mang tính thực tế là không thoải mái. Khoản đặt cược miễn phí đến hộp thư đến của bạn có thể phản ánh phán đoán dựa trên dữ liệu về khả năng thua của bạn chứ không phải phần thưởng cho lòng trung thành. Và mô hình đưa ra phán đoán đó biết nhiều thứ - tần suất bạn chơi, mức độ bạn theo đuổi thua lỗ, liệu bạn có dấu hiệu dừng lại hay không - mà bạn chưa bao giờ chia sẻ rõ ràng cho mục đích đó.

DraftKings không bị buộc tội vi phạm pháp luật và các chương trình khuyến mãi có mục tiêu là hợp pháp. Nhưng khi hệ thống AI ngày càng quyết định xem ai sẽ xem ưu đãi nào, khoảng cách giữa những gì công ty có thể dự đoán và những gì họ chọn hành động đang trở thành câu hỏi trọng tâm về đạo đức AI của người tiêu dùng - và báo cáo của DraftKings là một trong những ví dụ rõ ràng nhất về khoảng cách đó trong thực tế.

Đi trước AI

Từ ứng dụng cá cược đến phòng thí nghiệm tiên tiến, AI đang định hình lại cách các công ty nhìn nhận khách hàng của mình. Để biết thêm thông tin về đạo đức AI và trách nhiệm giải trình trong ngành, hãy theo dõi AI Buzz Wire.

Đọc tin tức mới nhất về AI →