OpenAI und Hugging Face: Die eine KI-Bude greift die andere an. Und du denkst dir: Alter, jetzt bin ich hier aber im falschen Film gelandet. Ich denke mir so, dass da alle von Glück reden können, dass es ein begrenzter Ausbruch war. Stellt euch mal vor, die KI hätte sich selbständig gemacht und hätte ich auf Wanderschaft durch Fantasia gemacht. Nicht auszudenken, was da alles hätte passieren können. Nee, ernsthaft, da ist wirklich etwas passiert, was die gesamte Branche aufschrecken ließ.
OpenAI greift Hugging Face an
Stellt euch mal vor, ihr wollt etwas testen. Und das Etwas, was ihr testen wollt, habt ihr isoliert am Laufen. Trotzdem gelingt es dem Etwas, zu entschwinden und die Testmethoden zu klauen. Ungefähr so wie in der Schule, wenn Schüler während der Klassenarbeit eingeschlossen werden, aber die Tür aufschließen können und die Lösungen der Klassenarbeit aus dem Lehrerzimmer klauen. So in etwa muss das mit OpenAI gewesen sein.
Da rühmt man sich, dass man mit „GPT-5.6 Sol“ ein obergeiles, noch viel leistungsstärkeres Modell in der Mache hat. Und das lässt man einfach mal losturnen, während man es testen will. Die Tests wurden wohl von Hugging Face durchgeführt, die dann eben prompt überfallen wurden. Praktisch: Ausbruch der Killer-KI. Natürlich mache ich hier meine Späße. Aber es ist halt auch so, dass immer wieder vor verheerenden Attacken durch KI gewarnt wird. Nun ist es passiert.
Ja, das Alles lief begrenzt auf die Infrastruktur von Hugging Face ab. Aber immerhin. Das KI-Modell „wusste“ quasi, wohin es will und wie es sich dann Zugang zum Netzwerk von Hugging Face verschafft. Und das ist dann schon eine neue Dimension. Mir scheint, als ob das Unternehmen OpenAI davon auch mehr oder weniger überrascht wurde. Noch ist nicht so richtig klar, wie das passieren konnte. Und das ruft dann auch wieder ein mulmiges Gefühl hervor. Sie haben die KI-Modelle nicht im Griff.
Was lernt man daraus?
Jetzt kann man hergehen und alle KI-Modelle verteufeln. Ich meine, ich erlebe es ja tagtäglich, wie viel Schund damit fabriziert wird. Diese Spielerei-KI hat aber nichts mit dem zu tun, was hinter „GPT-5.6 Sol“ steckt. Das geht dann schon in so eine Richtung wie diese ganze Stuxnet-Nummer vor einigen Jahren. Ja, ich meine das ernst: Diese KI-Modelle gehen schon in die Richtung Schadprogramme. Und ja, ich glaube auch, dass im schlimmsten Fall damit auch Kriege geführt werden können.
Mir ist auch klar, dass ich jetzt einen Computerwurm wie Stuxnet nicht straffrei mit einem KI-Modell vergleichen sollte. Ich wollte es aber auch nur irgendwie veranschaulichen. Damit hat meiner Meinung nach OpenAI aber auch riesige Macht. Wenn ich mir überlege, dass da frühere Google- und Facebook-Manager, frühere Minister und Direktoren der NSA etwas zu sagen haben, weiß ich doch schon, dass die USA diesen Dienst nutzen werden.
Ich bin der festen Überzeugung, dass KI-Modelle wie die von OpenAI oder Anthropic oder so zwingend einen Not-Aus-Knopf brauchen, der von einer externen Person im Gefahrenfall gedrückt werden kann. Wir wollen die Biester doch nicht einfach so durch Fantasia wandern lassen. Der Vorfall mit OpenAI ist zwar nochmal glimpflich abgegangen. Ich würde aber darauf wetten, dass da in Zukunft noch mehr passieren wird. Guckt mal zum Sascha Pallenberg, was er dazu sagt:
Mein erster Gedanke, als ich davon gehört habe: Ich stell mein Banking wieder auf inhouse um. Ist wohl nur eine Frage der Zeit, bis eine KI alle unsere Konten abräumt. Aber ein Schutz ist das wohl auch nicht. Und der Not-Aus-Knopf ist bestimmt eine gute Idee aber sehr wahrscheinlich ist dann auch nichts mehr zu retten.
Da hilft dann nur noch: Abschalten. Ums mit den Worten von Peter Lustig zu sagen.
Das wundert doch nicht, wenn man der KI lediglich das Prompt mitgibt, sie solle ERFOLG in einem bestimmten Benchmark produzieren – ohne irgendwelche Grenzen zu formulieren, was sie dafür NICHT tun darf!
Die „abgeschottete Textumgebung“ vorher mal von einer KI auf Schwachstellen prüfen lassen, wäre auch recht sinnvoll gewesen.
Wie blöd bzw. ignorant sind diese Leute eigentlich?
Beängstigend. Die Scienefiction Idee, dass eine KI sich weiterentwickelt und irgendann doch mal „die Welt beherrscht“, rückt immer mehr in den Bereich des Möglichen. Danke für Deinen Artikel. 👍
KI-Spielerei, die gibt es täglich. Doch wir werden es nicht mehr aufhalten. Trotzdem ist es wichtig, seine Meinung offen zu posten. Ein Grund mehr, warum du in meinem Blogroll gelandet bist. Frank, der stille Leser.
Bei Meldungen die allein vom Hersteller, hier von OpenAI und nicht von unabhängigen Dritten, veröffentlicht wurden, bin ich grundsätzlich Skeptisch über die Berichterstattung. Da schwingt immer der Gedanke mit: Hey schaut her, wir haben so ein krasse KI entwickelt, die selbst aus einer Sandbox ausbrechen kann! Wollt ihr mehr erfahren?