Der Börsen-TagAnthropic öffnet sich für externe Prüfer
ntv bei Google bevorzugenAnthropic gewährt nach eigenen Angaben externen Prüfern weitreichenden Zugang zu seinen Systemen, um die Technologie sicher zu entwickeln, ohne sie zu verlangsamen. Das gemeinnützige Unternehmen METR erhalte Zugang auf Mitarbeiterebene, teilte der Entwickler der Claude-Modelle mit. Zudem arbeite man mit dem Unternehmen SecureBio und der KI-Firma Faculty als Prüfer zusammen. Es liefen zudem Gespräche mit weiteren Firmen, darunter Hugging Face.
Reuters hatte Anfang der Woche berichtet, dass Anthropic und OpenAI zunächst eine erhebliche Kontrolle darüber anstrebten, was externe Prüfer veröffentlichen dürfen. Grund sei die Sorge vor der Weitergabe von Geschäftsgeheimnissen. Ein Insider sagte Reuters jedoch, dass sich die Gespräche zuletzt weiterentwickelt hätten und das Unternehmen offener geworden sei.
Ein Streitpunkt zwischen Prüfern und KI-Laboren ist, dass Informationen, die die Unternehmen als entscheidendes geistiges Eigentum betrachten, auch für die Bewertung der Risiken eines Modells relevant sein können. Experten verwiesen zudem darauf, dass die Unabhängigkeit der Prüfer fraglich sei, da Anthropic und OpenAI selbst auswählen, wer die Überprüfungen durchführt.