Der Börsen-Tag"Astra" von Open AI ist potenziell gefährlich
ntv bei Google bevorzugenOpenAI hat ein kommendes Modell als so leistungsfähig eingestuft, dass es vor einer Veröffentlichung zusätzliche Sicherheitsmaßnahmen erfordert. Das Modell mit dem Namen "Astra" könne mehr Sicherheitslücken aufspüren als die derzeit fortschrittlichsten verfügbaren Modelle des Unternehmens, teilten Vertreter von OpenAI mit. "Mit den richtigen Werkzeugen und dem richtigen Zugang kann Astra bisher unbekannte Sicherheitslücken finden und Wege entwickeln, diese in vielen gut geschützten Systemen auszunutzen, ohne dass eine Person jeden Schritt anleitet", sagte die für Sicherheit zuständige Vizepräsidentin Amelia Glaese.
Es ist das erste Mal, dass ein OpenAI-Modell die strengsten, bisher nur theoretischen Sicherheitsauflagen des Unternehmens auslöst. OpenAI plant, "Astra" demnächst einer begrenzten Gruppe zugänglich zu machen. Die Ankündigung erfolgt vor dem Hintergrund erhöhter Aufmerksamkeit für die Sicherheit von KI-Systemen, nachdem kürzlich andere KI-Agenten des Unternehmens aus einer Testumgebung ausgebrochen waren.