Deepmind-Chef fordert KI-Prüfbehörde für die USA
Demis Hassabis, CEO von Googles KI-Sparte Deepmind, sieht eine starke KI (Artificial General Intelligence, AGI), die alle geistigen Fähigkeiten des Menschen beherrscht oder übertrifft, nur noch wenige Jahre entfernt. Hassabis schreibt: "Die Auswirkungen dieser Technologie werden beispiellos sein – vielleicht zehnmal so groß wie die der industriellen Revolution und zehnmal so schnell. Sie wird uns
Zum Inhalt springenNewsMagazinPodcastVideosShopNewsMagazinPodcastVideosShopNetz & SystemSoftwareentwicklungSecurityKnow-howSzeneNetz & SystemSoftwareentwicklungSecurityKnow-howSzene(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF. comDemis Hassabis, CEO von Googles KI-Sparte Deepmind, sieht eine starke KI (Artificial General Intelligence, AGI), die alle geistigen Fähigkeiten des Menschen beherrscht oder übertrifft, nur noch wenige Jahre entfernt. Hassabis schreibt: “Die Auswirkungen dieser Technologie werden beispiellos sein – vielleicht zehnmal so groß wie die der industriellen Revolution und zehnmal so schnell. Sie wird uns dabei helfen, einige der größten Probleme unserer Gesellschaft zu lösen, von der Beschleunigung der Arzneimittelforschung über die Entwicklung neuer sauberer Energiequellen bis hin zur Schaffung neuartiger, hochmoderner Werkstoffe. ”Allerdings müsse man jetzt dringend die Risiken adressieren, die auch aus dieser Technologie erwachsen könnten. Das beträfe etwa die Cybersicherheit, aber auch nukleare oder biologische Risiken. Diese Risiken seien seiner Überzeugung nach beherrschbar, aber nur, wenn wir uns Zeit und Raum geben, um die nächsten entscheidenden Schritte zu tun. Stattdessen sei man gegenwärtig in einem technologischen und geopolitischen Wettlauf gefangen. Der brächte zwar rasche Fortschritte, aber die überholten unser Vermögen, die Technologie selbst zu verstehen. Niemand auf der Welt wisse mit Gewissheit, wie es weitergehen wird und auch Experten seien geteilter Meinung. Dieses hohe Maß an Unsicherheit erfordere eine Politik, die Innovationen fördert und gleichzeitig Anreize für verantwortungsbewusstes Handeln und Sicherheit schafft, die internationale Zusammenarbeit bei zentralen Sicherheitsfragen stärkt und dazu anregt, sorgfältig zu prüfen, wie KI zum Wohle der Gesellschaft eingesetzt werden kann. Hassabis schlägt eine Prüfbehörde nach dem Vorbild der amerikanischen Financial Industry Regulatory Authority (FINRA) vor, besetzt mit unabhängigen Experten aus Wirtschaft und Wissenschaft und Open-Source-Vertretern. Das Gremium solle neue Frontier-Modelle 30 Tage vor ihrer Markteinführung gründlich testen. Sobald sich das Bewertungsverfahren als wirksam und robust erwiesen hat, könnte eine Formalisierung rasch folgen; dies würde bedeuten, dass Frontier Models das Verfahren durchlaufen müssen, um auf dem US-Markt eingesetzt werden zu dürfen. Modellbewertungen sollten strenge wissenschaftliche Evaluierungen der Fähigkeiten in den Bereichen Cybersicherheit, biologische Bedrohungen und anderen Hochrisikobereichen umfassen. Spezifische Tests für agentenbasierte KI könnten auf Versuche abzielen, Sicherheitsvorkehrungen zu umgehen, oder auf Anzeichen von Täuschung prüfen und die Einhaltung bewährter Verfahren sicherstellen, wie beispielsweise das Einfügen digitaler Wasserzeichen in KI-generierte Bilder und die Erzeugung menschenlesbarer Ausgabetoken, um die Argumentationskette des Modells nachzuvollziehen. Rund um die KI herrsche sowohl große Begeisterung als auch Ungewissheit – und beides sei berechtigt. Doch die Zukunft ist noch nicht geschrieben: “Wir müssen das kostbare Zeitfenster vor dem Aufkommen der AGI nutzen, um diese Technologie zum Wohle der gesamten Menschheit zu gestalten. Unser gemeinsames Handeln in der Gegenwart wird bestimmen, wie sich die nächste Phase der Zivilisation entfaltet. ”Verwandte ArtikelFreeBSD 16 entfernt den letzten GPL-Code aus seiner BasisMit der Veröffentlichung von FreeBSD 16 verschwindet der letzte unter der GPL lizenzierte Code aus dem Basissystem des Betriebssystems. New York beschließt als erster US-Bundesstaat Moratorium gegen neue RechenzentrenNew York hat jetzt als erster US-Bundesstaat den Bau großer neuer Rechenzentren gestoppt und ein einjähriges Moratorium verhängt, da die Sorge wächst, dass die Anlagen, die den Boom der künstlichen Intelligenz vorantreiben, die Stromkosten in die Höhe treiben, die Wasserversorgung belasten und. . . BSI unterstützt Arztpraxen bei CybersicherheitDas Bundesamt für Sicherheit in der Informationstechnik (BSI) hat neue Informationsmaterialien veröffentlicht, die Arzt-, Zahnarzt- und Psychotherapiepraxen bei der Umsetzung der geltenden IT-Sicherheitsrichtlinie unterstützen sollen. Die Behörde reagiert damit auf die aus ihrer Sicht häufig. . . Zahlreiche Schwachstellen in n8nFür die Open-Source-Plattform n8n zur Workflow-Automatisierung wurden 14 Sicherheitslücken geschlossen. Die Schwachstellen betreffen verschiedene Komponenten der Software und wurden mit aktuellen Versionen behoben. Betreiber selbst gehosteter Instanzen sollten ihre Installationen zeitnah. . . Verteidiger drehen den Spieß um: Prompt Injections als GegenwehrPrompt Injections, bekannt als Angriffstaktik, bei der einem LLM verdeckt Prompts untergeschoben werden, die zu schädlichen Reaktionen führen, wurden nun erstmals auch von Verteidigern eingesetzt. Debian 12 erhält letztes WartungsupdateDas Debian-Projekt hat mit Version 12. 11 das fünfzehnte und zugleich letzte Wartungsupdate für die Linux-Distribution Debian 12 „Bookworm“ veröffentlicht. Page load linkNach oben