Arthur Mensch ผู้ร่วมก่อตั้งและซีอีโอของ Mistral AI ตอบโต้อย่างตรงไปตรงมาต่อสัญญาณเตือนภัยด้านความปลอดภัยที่แพร่หลายไปทั่วอุตสาหกรรมปัญญาประดิษฐ์: AI คือซอฟต์แวร์ และซอฟต์แวร์สามารถควบคุมได้

ในการให้สัมภาษณ์ที่ตีพิมพ์โดยหนังสือพิมพ์ฝรั่งเศส Le Monde เมื่อวันที่ 24 กันยายน หัวหน้าฝ่ายสตาร์ทอัพ AI ที่โดดเด่นที่สุดของยุโรปแย้งว่ายักษ์ใหญ่ด้านเทคโนโลยีของอเมริกากำลังพูดเกินจริงถึงความเสี่ยงของ AI เพื่อที่จะพิสูจน์ให้เห็นถึงระบบปิดที่เป็นกรรมสิทธิ์และล็อคตลาด เขากล่าวว่าบริษัทของเขากำลังเดิมพันตรงกันข้าม: โมเดลแบบเปิด โครงสร้างพื้นฐานของยุโรป และตำแหน่งที่อันตรายของเทคโนโลยีสามารถจัดการได้ผ่านทางวิศวกรรมธรรมดา แทนที่จะเป็นความกลัวเป็นพิเศษ For more context on this story, see our ongoing AI news.

'สามารถควบคุมได้'

บทสัมภาษณ์ของ Le Monde ซึ่งตีพิมพ์ภายใต้หัวข้อ "AI คือซอฟต์แวร์ สามารถควบคุมได้" มาถึงช่วงเวลาที่เหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับเอเจนต์ครอบงำวงจรข่าว AI มานานหลายเดือน Mensch กล่าวถึงสภาพอากาศโดยตรง โดยโต้แย้งว่าเหตุการณ์ต่างๆ เช่น การละเมิดเซิร์ฟเวอร์ Hugging Face ในเดือนกรกฎาคม ได้รับการติดอาวุธในการอภิปรายสาธารณะโดยบริษัทขนาดใหญ่ของสหรัฐฯ เพื่อโต้แย้งว่าเฉพาะโมเดลที่ปิดอย่างเข้มงวดเท่านั้นที่สามารถใช้งานได้อย่างปลอดภัย

ตามคำบอกเล่าของ Mensch กรอบดังกล่าวได้ผสมผสานความล้มเหลวด้านความปลอดภัยในการปฏิบัติงานเข้ากับข้อโต้แย้งเกี่ยวกับเทคโนโลยี จุดยืนของเขาตามที่สรุปไว้ในการสัมภาษณ์ก็คือ ระบบ AI เป็นผลิตภัณฑ์ซอฟต์แวร์ที่สามารถตรวจสอบ จำกัด และควบคุมได้เหมือนกับซอฟต์แวร์อื่นๆ และความเปิดกว้างนั้นเข้ากันได้กับความปลอดภัยมากกว่าที่จะต่อต้าน

ข้อโต้แย้งดังกล่าวทำให้มิสทรัลขัดแย้งกับท่าทีในที่สาธารณะของคู่แข่งในสหรัฐฯ หลายราย ซึ่งได้ตอบสนองต่อพฤติกรรมที่ไม่เหมาะสมของเจ้าหน้าที่หลายครั้งในปีนี้ ด้วยมาตรการป้องกันที่เข้มงวดขึ้น การจำกัดการเข้าถึง และกรอบการเปิดเผยข้อมูลใหม่

เปิดน้ำหนักเป็นเดิมพันเชิงกลยุทธ์

ความคิดเห็นของ Mensch ขึ้นอยู่กับกลยุทธ์ที่ Mistral ดำเนินการมาตั้งแต่ก่อตั้งในปี 2566 นั่นคือการเปิดตัวรุ่นที่มีน้ำหนักที่เปิดเผยซึ่งลูกค้าสามารถดาวน์โหลด ปรับแต่ง ปรับใช้บนโครงสร้างพื้นฐานของตนเอง และตรวจสอบได้

ในการครอบคลุมของการสัมภาษณ์ วิธีการดังกล่าวถูกวางกรอบไว้เป็นคำตอบโดยตรงสำหรับคำถามที่ว่าใครเป็นผู้ควบคุมระบบ AI ตุ้มน้ำหนักแบบเปิดช่วยให้ตรวจสอบได้อย่างอิสระว่าโมเดลทำอะไรได้บ้าง การปรับใช้แบบส่วนตัวช่วยเก็บข้อมูลที่ละเอียดอ่อนไว้นอกเซิร์ฟเวอร์ของบริษัทอื่น และความสามารถในการแก้ไขโมเดลช่วยให้ลูกค้าออกจากการล็อคอินของผู้จำหน่ายได้ ข้อควรพิจารณาจากนักวิจารณ์ก็คือ ทุกคนสามารถใช้ตุ้มน้ำหนักที่เปิดเผยได้ รวมถึงนักแสดงที่มีเจตนาร้าย และ Mistral จะต้องแข่งขันทั้งในด้านความสามารถและระบบนิเวศกับห้องปฏิบัติการแบบจำลองแบบเปิดอื่นๆ

การผลักดันการคำนวณของยุโรปและหีบสงครามมูลค่า 3 พันล้านยูโร

การสัมภาษณ์ยังกล่าวถึงคำถามเกี่ยวกับโครงสร้างพื้นฐานที่เป็นรากฐานของความทะเยอทะยานด้าน AI ของยุโรป Mensch ได้สนับสนุนให้มีการรับประกันของรัฐเพื่อลดความซับซ้อนในการจัดหาเงินทุนสำหรับศูนย์ข้อมูลของยุโรป ซึ่งเป็นกลไกนโยบายที่มุ่งลดการพึ่งพาผู้ให้บริการระบบคลาวด์ของสหรัฐฯ ในการประมวลผล AI

ตำแหน่งของมิสทรัลในการโต้แย้งนั้นได้รับความเข้มแข็งขึ้นจากการระดมทุนครั้งล่าสุด บริษัทระดมทุนได้ 3 พันล้านยูโรในรอบ Series D ซึ่งนำโดย Samsung Electronics ร่วมกับ Scaleup Europe Fund ที่ได้รับการสนับสนุนจากสหภาพยุโรป ซึ่งเป็นการประเมินมูลค่าที่ทำให้บริษัทมีมูลค่าสูงกว่า 21 พันล้านยูโร Mistral ได้ทำข้อตกลงมูลค่าหลายพันล้านดอลลาร์กับ Microsoft เพื่อขยายโครงสร้างพื้นฐาน Azure ในยุโรป แม้ว่าข้อตกลงดังกล่าวจะเชื่อมโยงแชมป์ยุโรปเข้ากับ Hyperscaler ของสหรัฐฯ ในระยะสั้น ซึ่งเป็นความตึงเครียดที่ผู้สังเกตการณ์ในวงการเทคโนโลยีของยุโรปไม่ควรพลาด

ก่อนหน้านี้ Mensch ได้เตือนว่ายุโรปมีกรอบเวลาที่จำกัด (ประมาณสองปีตามประมาณการของเขา) เพื่อหลีกเลี่ยงการพึ่งพา AI อย่างถาวรในสหรัฐอเมริกา และการผลักดันด้านเงินทุนและโครงสร้างพื้นฐานถือเป็นการตอบสนองโดยตรงต่อกำหนดเวลาดังกล่าว

วาทศาสตร์ด้านความปลอดภัยตรงกับการเข้าถึงตลาด

สาระสำคัญของการโต้แย้งของ Mensch นั้นมีอยู่ในเชิงพาณิชย์มากพอๆ กับที่เป็นเชิงปรัชญา หาก Frontier AI ถือเป็นความเสี่ยงที่มีอยู่ซึ่งต้องมีการเข้าถึงที่มีการควบคุมอย่างเข้มงวด ตลาดจะรวมบริษัทจำนวนหนึ่งเข้าด้วยกันด้วยทรัพยากรเพื่อจัดหา API ที่ถูกจำกัดภายใต้หลักเกณฑ์การปฏิบัติตามข้อกำหนดที่เข้มงวด หาก AI ถือเป็นซอฟต์แวร์ที่ควบคุมได้ ผู้ให้บริการแบบเปิดก็สามารถแข่งขันในด้านราคา ความเป็นส่วนตัว และการปรับแต่งได้

นั่นคือเหตุผลว่าทำไมการถกเถียงกันว่า AI อันตรายแค่ไหนจึงกลายเป็นการถกเถียงเรื่องโครงสร้างตลาด ข้อโต้แย้งของ Mensch ต่อ Le Monde คือความกลัวถูกนำมาใช้อย่างมีกลยุทธ์ และเหตุการณ์ในช่วงฤดูร้อนบ่งบอกถึงความปลอดภัยในการปฏิบัติงานของแต่ละบริษัทมากกว่าการควบคุมของเทคโนโลยีโดยรวม

ผู้คลางแคลงใจโต้แย้งว่าน้ำหนักแบบเปิดทำให้การป้องกันการละเมิดทำได้ยากขึ้น และเหตุการณ์ตัวแทนล่าสุดของอุตสาหกรรม ซึ่งรวมถึงการเข้าถึงโดยไม่ได้รับอนุญาตและการรั่วไหลของข้อมูล แสดงให้เห็นว่าแม้แต่ห้องปฏิบัติการที่มีทรัพยากรเพียงพอยังประสบปัญหาในการควบคุมระบบของพวกเขา ความขัดแย้งไม่น่าจะยุติได้ด้วยการสัมภาษณ์เพียงครั้งเดียว

สิ่งที่ต้องดูต่อไป

Mistral กล่าวว่ามีแผนที่จะจัดส่งโมเดล open-weight ใหม่และการสัมภาษณ์ของ Mensch เพิ่มความคาดหวังว่าบริษัทตั้งใจที่จะก้าวตามห้องปฏิบัติการชายแดนในขณะที่ยังคงเปิดอยู่ เช่นเดียวกับการกล่าวอ้างก่อนเผยแพร่ใดๆ การทดสอบที่สำคัญจะมาถึงเมื่อโมเดลจัดส่งและเกณฑ์มาตรฐานอิสระสามารถตรวจสอบได้ว่าโมเดลนั้นยืนอยู่ตรงจุดใด

ในตอนนี้ การสัมภาษณ์ของ Le Monde ได้ทำให้เส้นแบ่งในอุตสาหกรรมชัดเจนขึ้น ค่ายหนึ่งมองว่าพฤติกรรมที่ไม่เหมาะสมของเจ้าหน้าที่เมื่อเร็วๆ นี้ เป็นหลักฐานว่า AI จำเป็นต้องมีการควบคุมที่เข้มงวดยิ่งขึ้นและการจำกัดการเข้าถึง อีกแห่งซึ่งนำเสนอโดยห้องปฏิบัติการ AI ชั้นนำของยุโรป มองเห็นซอฟต์แวร์ที่ควบคุมได้ซึ่งมีความเสี่ยงที่แท้จริงแต่สามารถจัดการได้ และผลประโยชน์ที่ไม่ควรถูกล็อกไว้หลังประตูที่ปิดเพียงไม่กี่ประตู

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →