Mit dem schnellen Wachstum der Künstlichen Intelligenz (KI) steigt auch der Bedarf an Sicherheitsstandards und Rahmenwerken, die mit diesem Fortschritt Schritt halten können. Aus diesem Grund stellte Google im vergangenen Jahr das Secure AI Framework (SAIF) vor, als ersten Schritt hin zu einem umfassenden Sicherheitskonzept für KI. Heute wurde auf dem Aspen Security Forum eine wichtige Weiterentwicklung angekündigt: Die Gründung der Coalition for Secure AI (CoSAI).

Diese Koalition, zu der führende Unternehmen wie Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, Paypal und Wiz gehören, wird unter dem Dach von OASIS Open, einem internationalen Standardisierungs- und Open-Source-Konsortium, angesiedelt sein. CoSAI hat das Ziel, umfassende Sicherheitsmaßnahmen zu fördern, um den einzigartigen Risiken, die mit KI einhergehen, sowohl in Echtzeit als auch in Zukunft gerecht zu werden.

Die ersten Arbeitsschwerpunkte von CoSAI

CoSAI wird die Zusammenarbeit von Entwicklern, Unternehmen und der Wissenschaft unterstützen, um gemeinsame Sicherheitsstandards und Best Practices zu etablieren. Zum Start wird die Koalition sich auf drei zentrale Bereiche konzentrieren:

1. Sicherheit der Softwarelieferkette für KI-Systeme: Durch die Erweiterung bestehender Sicherheitsprinzipien wie SLSA Provenance auf KI-Modelle soll sichergestellt werden, dass KI-Software sicher ist. Dies umfasst die Bewertung der Herkunft, das Management von Risiken durch Drittanbieter-Modelle und die vollständige Rückverfolgbarkeit von KI-Anwendungen.

2. Vorbereitung der Verteidiger auf eine sich verändernde Cybersicherheitslandschaft: Sicherheitspraktiker benötigen klare Leitlinien, um mit den komplexen Sicherheitsbedenken im täglichen Umgang mit KI umzugehen. CoSAI wird ein Rahmenwerk entwickeln, das Verteidigern hilft, Investitionen und Strategien zur Risikominderung zu identifizieren und anzuwenden.

3. Governance der KI-Sicherheit: Es wird ein neuer Satz von Ressourcen entwickelt, um die einzigartigen Aspekte der KI-Sicherheit zu adressieren. Dies umfasst die Erstellung einer Risiko- und Kontrolltaxonomie, Checklisten und Scorecards zur Unterstützung von Sicherheitsbewertungen und -berichten.

Zusätzlich wird CoSAI mit Organisationen wie dem Frontier Model Forum, Partnership on AI, Open Source Security Foundation und ML Commons zusammenarbeiten, um verantwortungsvolle KI zu fördern.

Ausblick und nächste Schritte

Während sich die KI-Technologie weiterentwickelt, ist es entscheidend, dass auch die Strategien zum Risikomanagement weiter fortschreiten. Die Unterstützung aus der Branche für sichere und verantwortungsbewusste KI-Entwicklung war im vergangenen Jahr ermutigend. Entwickler, Experten und Unternehmen setzen sich aktiv dafür ein, KI sicher zu implementieren, zu trainieren und zu nutzen.

Ein sicheres und effektives Rahmenwerk für die KI-Sicherheit ist unerlässlich, um die Chancen dieser Technologie voll auszuschöpfen. CoSAI stellt einen wichtigen Schritt in diese Richtung dar, und es sind in den kommenden Monaten weitere Updates zu erwarten. Weitere Informationen und Unterstützungsmöglichkeiten finden Interessierte auf der Webseite von CoSAI sowie auf der Seite zum Secure AI Framework von Google.