OpenAI und Nightshade prägen die Zukunft mit KI-Tools und -Chips

Übersicht

• Nightshade: Ein neues Werkzeug
• Wie funktioniert Nightshade?
• Anforderungen und Verwendung
• Reaktionen auf Nightshade
• Hintergrund und Entwicklung

Nightshade: Ein neues Werkzeug

Nightshade, ein neues, kostenloses Software-Tool, das es Künstlern ermöglicht, KI-Modelle zu „vergiften“, ist jetzt verfügbar.

Entwickelt von Computerwissenschaftlern des Glaze-Projekts an der University of Chicago unter der Leitung von Professor Ben Zhao, ermöglicht Nightshade Künstlern, ihre Werke zu schützen.

Das Tool nutzt das beliebte Open-Source-Framework PyTorch, um Bilder auf Pixel-Ebene subtil zu verändern, sodass andere KI-Programme etwas völlig anderes sehen als das, was tatsächlich vorhanden ist.

Wie funktioniert Nightshade?

Nightshade arbeitet, indem es KI gegen KI einsetzt.

Es identifiziert, was in einem Bild vorhanden ist, und wendet dann ein Tag an, das das Bild auf Pixel-Ebene verändert.

Das Ergebnis ist, dass andere KI-Programme das Bild falsch interpretieren.

Zum Beispiel könnte ein Bild einer Kuh in einem grünen Feld von einem KI-Modell als große Ledertasche in der Wiese gesehen werden.

Anforderungen und Verwendung

Um Nightshade zu nutzen, benötigen Künstler entweder einen Mac mit Apple-Chips (M1, M2 oder M3) oder einen PC mit Windows 10 oder 11.

Das Tool kann für beide Betriebssysteme heruntergeladen werden.

Die Windows-Version kann auch auf einer Nvidia-GPU laufen, sofern diese auf der Liste der unterstützten Hardware steht.

Benutzer müssen auch der Endbenutzer-Lizenzvereinbarung (EULA) des Glaze/Nightshade-Teams zustimmen, die besagt, dass das Tool nur auf eigenen Maschinen verwendet und der Quellcode nicht verändert werden darf.

Reaktionen auf Nightshade

Während einige Künstler Nightshade bereits heruntergeladen und verwendet haben, gibt es auch Kritik.

Einige Webnutzer sehen das Tool als eine Art Cyberangriff auf KI-Modelle und Unternehmen.

Das Glaze/Nightshade-Team betont jedoch, dass das Ziel von Nightshade nicht die Zerstörung von Modellen ist, sondern die Erhöhung der Kosten für das Training auf nicht lizenzierten Daten.

Das Ziel ist es, dass KI-Modelle-Entwickler Künstler für die Nutzung ihrer Daten bezahlen.

Hintergrund und Entwicklung

Die Entwicklung von Nightshade ist eine Reaktion auf die Art und Weise, wie KI-Bildgeneratoren trainiert werden.

Diese Modelle werden oft durch das Scraping von Daten aus dem Internet trainiert, einschließlich Originalkunstwerken, die von Künstlern ohne deren Wissen oder Zustimmung gepostet wurden.

Künstler argumentieren, dass diese Praxis ihre Existenzgrundlage bedroht, da die resultierenden KI-Modelle mit ihnen konkurrieren.

Das Glaze/Nightshade-Team sieht Nightshade als Werkzeug, um diese Machtasymmetrie zu adressieren und die Kosten für das Scraping und Training ohne Genehmigung zu erhöhen.

Quelle