Mythos, Macht & Maschine: Wollen die USA der Welt „Claude“ vorenthalten?
Die US-Regierung stoppte Anthropics KI-Modell „Claude Mythos“ aus Sicherheitsbedenken. Der Fall zeigt, wie schnell Washington bestimmen kann, wer Zugang zu dieser Technologie erhält – und wer nicht.
Dario Amodei, Gründer und Chef des 965 Milliarden Dollar schweren KI-Unternehmens Anthropic, vergleicht sich mit einem Hobbit, einem kleinen, menschenähnlichen Wesen aus Tolkiens „Der Herr der Ringe“. Als Hobbit sei er schneller als Baumbart, jenes uralte Baumwesen, das langsam durch die Wälder stapft. In Amodeis Analogie steht der Zauberbaum für die trägen politischen Institutionen. Die Hobbits stehen für KI-Unternehmen wie seines, Anthropic, das mit der rasanten Entwicklung des KI-Programms „Claude“ den staatlichen Regularien weit voraus ist. „Claude Mythos“ ist die neueste und leistungsstärkste KI-Software aus dem Hause Anthropic. Über Texteingaben erkennt das KI-Sprachmodell, welche Aufgabe ihm gestellt wird, und führt sie anschließend aus: etwa Textgenerierung, Datenanalyse oder Programmieraufgaben. Seit März hat sich Anthropic vor allem in der Softwareentwicklung einen beachtlichen Ruf erarbeitet. Claude kann erstaunlich gute Ergebnisse in der Entwicklung von Computerprogrammen liefern. Menschen ohne Programmierkenntnisse können damit Websites oder Apps erstellen, ohne Programmiersprachen zu beherrschen – Alltagssprache genügt. Allerdings ist gerade in der Cybersicherheit die Grenze zwischen Nutzen und Risiko schmal. Ein KI-Modell, dessen Stärke darin liegt, Schwachstellen in Software entdecken zu können, kann Verteidigern helfen, kritische Sicherheitslücken schneller zu schließen. In den falschen Händen kann dieselbe Fähigkeit Angreifern dienen. Der Zugang zu sämtlicher US-Technologie könnte plötzlich und ohne Vorwarnung abgeschaltet werdenAdrian CoxResearch-Institut der Deutschen BankViele Monate galt Claude Mythos unter KI-Enthusiasten daher als zu „mächtig“, um öffentlich ausgerollt zu werden, weswegen Anthropic selbst sein KI-Modell unter Verschluss hielt. Im Juni rief das Unternehmen selbst dazu auf, seine eigene Technologie stärker unter staatliche Kontrolle zu stellen. „Es ist an der Zeit, über Transparenz hinauszugehen und KI strenger und verbindlicher zu regulieren“, schrieb Amodei in einem Essay. Die Realität sollte den selbst ernannten Altruisten schneller einholen, als ihm lieb war: Das US-Handelsministerium ordnete an, den Zugang zu Anthropics KI-Modell für Ausländer zu unterlassen und nur mehr US-Bürgern zu gewähren. Die Begründung: Sicherheitsbedenken. Kevin Yangseit 2024 Redakteur und Faktenchecker bei profil Digital. Schwerpunkte: Arbeitsmarkt, Wirtschaftsrecht und Wohnbau. Davor bei „Wiener Zeitung“ und ORF. Die Redaktion empfiehltClaude: Hat Amazon das „mächtigste“ KI-Modell in die Schranken gewiesen?Zwei Tage dauerte es, bis das stärkste KI-Modell von Anthropic, Fable 5, geknackt wurde. Die US-Regierung erließ daraufhin eine Sperre für Ausländer – Anthropic nahm das Modell weltweit offline. Fünf Fragen & Antworten. VonKevin YangGut gerechnet: Kann man einer KI Moral beibringen?Kann man künstlicher Intelligenz Anstand eintrichtern, ihr beibringen, moralisch zu handeln und die Welt nicht zu ruinieren? Ja, man kann. Aber nur, wenn man weiß, mit wem man es da eigentlich zu tun hat. VonSebastian HoferSind wir den Maschinen ausgeliefert? KI-Expertin Sarah Spiekermann im InterviewAn eine baldige Menschheitsauslöschung durch entfesselte Computer glaubt die Wirtschaftsinformatikerin Sarah Spiekermann keineswegs. "Apokalyptisches" ortet sie dennoch. Ein Gespräch über tote Intelligenz, destruktives Geld, die neue Bildungsmisere – und die Notwendigkeit einer digitalen Ethik. VonStefan Grissemann