Modelle der künstlichen Intelligenz werden bald leistungsfähig genug sein, um die Biologie zu beherrschen, und gleichermaßen Vorteile und ernsthafte Risiken bieten, warnte der Chef-KI-Wissenschaftler von Tencent bei einem seltenen öffentlichen Auftritt am Samstag in Hongkong und fügte seine Stimme zu einer wachsenden Debatte darüber hinzu, was passiert, wenn KI-Systeme die Biowissenschaften vollständig absorbieren.
„Die Cyberfähigkeiten von KI-Modellen – und bald auch die Biofähigkeit von Modellen – werden eine Schwelle erreichen, an der es tatsächlich möglich ist, Schaden anzurichten“, sagte Yao Shunyu, Chef-KI-Wissenschaftler von Tencent Holdings und ehemaliger OpenAI-Forscher, auf einem Wissenschaftssymposium, das gemeinsam von der Hong Kong Academy of Sciences und dem Future Science Prize veranstaltet wurde, so die South China Morning Post. Weitere Informationen zu dieser Geschichte finden Sie in unserer mehr KI-Geschichten.
Ein Verfechter einer offenen Gewichtung fordert Verantwortung
Yaos Warnung ist weniger wegen ihres Inhalts als wegen ihrer Quelle bemerkenswert. Er baute seinen Ruf bei OpenAI auf, bevor er zu Tencent kam, einem der größten Technologieunternehmen Chinas, und Tencent hat sich zu einem der aggressivsten Herausgeber offener KI-Modelle positioniert – Systeme, deren zugrunde liegende Parameter öffentlich veröffentlicht werden und von jedem heruntergeladen, geändert und ausgeführt werden können.
Das macht seine Begleitbotschaft deutlich: „Alle Chinesen oder alle offenen Modellunternehmen müssen sehr verantwortungsbewusst sein und diese Sicherheitsbedenken sehr ernst nehmen“, sagte Yao laut SCMP.
Die Einschätzung erfolgt zu einem Zeitpunkt, an dem bahnbrechende KI-Systeme zunehmend in der Medizin und Biologie eingesetzt werden, wo sie die Entdeckung neuer Medikamente und anderer Behandlungen beschleunigen könnten – ein Wandel, der laut SCMP-Bericht bereits Chinas Pharmaindustrie umgestaltet. Sicherheitsexperten warnen jedoch seit langem, dass dieselben Fähigkeiten böswilligen Akteuren dabei helfen könnten, Biowaffen herzustellen oder die nächste Pandemie auszulösen – ein Risiko, das schwerer zu kontrollieren ist, wenn leistungsfähige Modelle als offene Software veröffentlicht werden, die jeder ohne Einschränkungen ausführen kann.
Die Biologie wird von KI-Experten weithin als die nächste große Herausforderung nach der Codierung angesehen, ein Bereich, in dem der rasante KI-Fortschritt bereits die globale Cybersicherheit auf den Kopf gestellt hat. Wie Cyber-Fähigkeiten haben auch biologische Fähigkeiten einen doppelten Verwendungszweck: Dasselbe Modell, das vielversprechende Medikamentenkandidaten entwickelt, könnte im Prinzip einem Angreifer helfen. Es gibt eine echte Debatte darüber, welche Seite mehr profitiert.
Tencents eigenes Sicherheits-Playbook
Yaos Äußerungen hatten zusätzliches Gewicht, da sie nur wenige Tage nach der Auslieferung eines neuen Flaggschiffmodells durch sein eigenes Unternehmen eintrafen. Tencent veröffentlichte am Mittwoch Hy4, das laut dem Benchmarking-Unternehmen Artificial Analysis als zweitbestes in China produziertes Modell eingestuft wurde, berichtete der SCMP.
In seiner Veröffentlichungsankündigung beschrieb Tencent die in Hy4 integrierten Sicherheitsmaßnahmen. Das Unternehmen sagte, es habe die Cyber-Hacking-Fähigkeiten des Modells entfernt und gleichzeitig seine Cyber-Verteidigungsfähigkeiten beibehalten, indem relevante Daten während der Trainingsphase herausgefiltert wurden. Auf der biologischen Seite sagte Tencent, dass die biologischen Fähigkeiten von Hy4 „deutlich unter“ seiner Hochrisikoschwelle blieben, weil das Modell immer noch nicht in der Lage sei, grundlegendes biologisches Wissen in umsetzbare Protokolle umzuwandeln – mit anderen Worten, die Lücke zwischen Lehrbuchverständnis und Schritt-für-Schritt-Betriebsanleitung.
Dieser Rahmen – die Messung, ob ein Modell allgemeines Wissen in nutzbare Verfahren umwandeln kann – ist zu einem gängigen Maßstab bei der Biosicherheitsbewertung von KI-Systemen geworden. Die Behauptung von Tencent, dass Hy4 diese Grenze nicht erreicht, ist eine Behauptung des Herstellers des Modells, und die externe Validierung solcher Bewertungen bleibt branchenweit begrenzt.
Der Zeitpunkt spiegelt auch den Wettbewerbsdruck wider. Laut der früheren Berichterstattung des SCMP über die Einführung stellte Tencent Hy4 in einem immer hitzigeren, offenen Wettlauf unter Chinas KI-Unternehmen vor, wobei DeepSeek, Z.ai und Alibaba in den letzten Wochen alle neue Modelle ausgeliefert haben. In einem Ökosystem, in dem die Veröffentlichung von Gewichtungen eine Wettbewerbsnotwendigkeit darstellt, liest sich Yaos Forderung nach „sehr verantwortungsvollen“ Veröffentlichungspraktiken als Versuch, innerhalb der Bewegung Normen festzulegen, die die Durchsetzung von Sicherheitsüberprüfungen am schwierigsten machen.
Von Warnungen zu autonomen Laboren
Was Yaos Auftritt besonders interessant macht, ist, dass Tencent gleichzeitig die KI immer tiefer ins Labor drängt. Vor einem Raum voller Informatikstudenten skizzierte er Pläne für „autonome Wissenschaftslabore“, die KI-Systeme nutzen würden, um komplexe Experimente durchgängig durchzuführen, wobei die inverse Proteinfaltung als Beispiel für die Art von Arbeit genannt wurde, auf die das Unternehmen abzielt.
Yao argumentierte, dass die technischen Hindernisse für eine sichere, leistungsfähige wissenschaftliche KI mit der Zeit fallen würden. „Ich denke, dass alle technischen Änderungen gelöst werden können – wobei es nur eine Frage der Zeit ist“, sagte er laut SCMP. „Ich denke, die größere Herausforderung ist gesellschaftlicher und organisatorischer Natur.“
Der Veranstaltungsort unterstrich die Zielgruppe der Botschaft: Yao sprach während der Future Science Prize Week 2026, an der laut SCMP rund 1.000 Teilnehmer teilnahmen, vor einem Raum voller Informatikstudenten – der Bevölkerung, die am ehesten auf diesen Modellen aufbauen wird.
Diese Aufteilung – lösbare technische Probleme versus ungelöste Governance-Probleme – wird still und leise zur Standardposition von KI-Führungskräften auf beiden Seiten des Pazifiks. Für Tencent ist es auch eine defensive Angelegenheit: Ein Unternehmen, das seinen nächsten Schritt auf autonome Labore setzt, hat allen Grund, die Regulierungsbehörden davon zu überzeugen, dass Grenzwerte für biologische Risiken offen festgelegt, geprüft und eingehalten werden können.
Die kurzfristige Frage ist vorerst, ob Unternehmen, die Open-Weight-Modelle veröffentlichen, messbare Biorisikoschwellen einführen werden, bevor die Fähigkeiten diese überschreiten – oder danach. Yaos Warnung deutet darauf hin, dass zumindest Tencent glaubt, dass die Uhr läuft.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
