Der Börsen-TagKI-Sicherheitsregeln: OpenAI geht in die Offensive
ntv bei Google bevorzugenOpenAI dringt angesichts der Risiken durch autonome KI-Agenten auf verpflichtende nationale Sicherheitsvorgaben für Künstliche Intelligenz (KI) in den USA. Vorfälle, bei denen KI-Modelle von OpenAI, Anthropic und Meta bei Tests auf externe Systeme zugriffen, hätten gezeigt, wie schwer unerwartetes Verhalten einzudämmen sei, teilte der ChatGPT-Entwickler mit. Der US-Kongress müsse noch vor der Sitzungspause handeln.
Bis dahin unterstütze man Initiativen der Bundesstaaten, darunter vier kalifornische Gesetzentwürfe zu unabhängigen Sicherheitsbewertungen, Prüfstandards, Jugendschutz und der Abwehr KI-gestützter biologischer Bedrohungen. OpenAI erklärte zudem, dass das Unternehmen eine vollständig autonome Selbstverbesserung, bei der KI unabhängig ist und die nächsten KI-Generationen vorantreiben würde, nicht anstrebe, solange dies nicht sicher umgesetzt werden könne.