💡NEWS
Deine Wissensquelle für Updates, News oder Erklärungen rund um Künstliche Intelligenz
Internationale Konferenz zu KI-Sicherheit: Zusammenarbeit zur Vermeidung von Risiken
Internationale KI-Konferenz in San Francisco: Wissenschaftler und Experten diskutieren Maßnahmen zur sicheren Entwicklung von Künstlicher Intelligenz.
OpenAI und Anthropic schließen Forschungsabkommen mit US-Regierung
OpenAI und Anthropic haben Vereinbarungen mit der US-Regierung unterzeichnet, um die Sicherheit ihrer KI-Modelle umfassend zu testen und zu bewerten. Diese Abkommen mit dem U.S. Artificial Intelligence Safety Institute sollen sicherstellen, dass die KI-Modelle den höchsten Sicherheitsstandards entsprechen, bevor sie öffentlich eingesetzt werden.
OpenAI führt neue Fine-Tuning-Optionen für GPT-4o ein
OpenAI hat Fine-Tuning für das GPT-4o-Modell eingeführt, wodurch Entwickler ihre KI-Modelle präzise auf spezifische Anwendungsfälle abstimmen können. Diese Funktion ermöglicht es, die Struktur und den Ton von Antworten anzupassen und komplexe, domänenspezifische Anweisungen zu folgen.
OpenAI-Mitgründer John Schulman wechselt zu KI-Startup Anthropic
John Schulman, Mitgründer von OpenAI, hat sich dem konkurrierenden KI-Startup Anthropic angeschlossen, um sich intensiver auf KI-Alignment zu konzentrieren. Dies folgt der längeren Auszeit von OpenAI-Präsident Greg Brockman und dem Abgang von Produktmanager Peter Deng.
Samsung investiert in KI-Sicherheitsstartup
Samsung investiert 60 Millionen Dollar in Protect AI Inc., einem Startup für KI-Sicherheit, das nun mit 400 Millionen Dollar bewertet wird. Erfahre mehr über die Hintergründe und Zukunftsaussichten.
Unternehmen verstärken Sicherheitsmaßnahmen für generative KI-Apps
Eine aktuelle Studie von Netskope Threat Labs zeigt, dass über ein Drittel der sensiblen Daten, die in generativen KI-Apps verarbeitet werden, regulierte Informationen sind. Dies stellt ein erhebliches Risiko für Datenschutzverletzungen dar.
NVIDIA und Cisco: Partnerschaft zur Skalierung von Generativer KI in Unternehmen
NVIDIA und Cisco bündeln ihre Kräfte, um Unternehmen eine robuste Plattform für generative KI zu bieten. Diese Partnerschaft zielt darauf ab, die Infrastrukturkomplexität zu verringern und die Effizienz zu maximieren.
KI-Sicherheit: Ex-Silicon Valley Mitarbeiter warnen vor Gefahren
Aktuelle und ehemalige Mitarbeiter von OpenAI und Google DeepMind warnen vor den Gefahren fortgeschrittener KI und fordern mehr Transparenz und Regulierung.
Wechsel in der KI-Branche: Jan Leike von OpenAI zu Anthropic
Erfahren mehr über Jan Leikes Wechsel von OpenAI zu Anthropic und die Auswirkungen auf die Sicherheitsstandards in der KI-Entwicklung.
Model Spec von OpenAI: Regeln für den Umgang mit KI
OpenAI hat einen Entwurf seiner neuen Richtlinien, bekannt als "Model Spec", veröffentlicht. Diese sollen festlegen, wie KI-Modelle, einschließlich des eigenen GPT-4, auf Eingaben reagieren sollen.
Many-Shot Jailbreaking: Sicherheitsrisiken in LLMs aufgedeckt
In der jüngsten Entdeckung von Anthropic wird eine neue Jailbreak-Technik vorgestellt, die die Sicherheitsmechanismen großer Sprachmodelle herausfordert.