Generative KI scheint das Wundermittel zu sein, das den kreativen Prozess verändern wird, aber in diesem frühen Stadium der Technologie gibt es noch jede Menge an Unzulänglichkeiten. Jüngst ist Figma, ein Designunternehmen für Softwareentwickler, auf eine der Probleme von KI gestoßen. Figma dachte, sein neues Tool Make Design, das KI zur Erstellung von Mockups verwendet, würde ein Hit werden, aber das Unternehmen hat es aus Gründen zurückgezogen, die, nun ja, ein wenig peinlich sind.
Wie Sie auf X erfahren haben, erstellt Make Design Mockups, die genau wie Apple-Apps aussehen. Ein Beispiel: Eine Wetter-App, die bei Make Design eingereicht wurde, führte zu einem Mockup, das der Wetter-App von Apple so ähnlich sieht, dass es schwer ist, den Unterschied zu erkennen.
Ein von anderen inspiriertes Design zu entwerfen, ist per se kein Vergehen, aber in diesem Fall kam schlicht ein Plagiat heraus. Die Entschuldigung von Figma? Es sei nicht ihre Schuld, da sie nicht ihre eigenen KI-Modelle verwendeten. In einem X-Thread erklärte Figma-CEO Dylan Field, dass Make Design „handelsübliche LLMs verwendet, kombiniert mit Designsystemen, die wir in Auftrag gegeben haben, damit sie von diesen Modellen verwendet werden.“ Als Figma-CTO Kris Rasmussen von The Verge gefragt wurde, ob Make Design direkt auf App-Designs von Apple trainiert wurde, konnte Rasmussen „das nicht mit Sicherheit sagen.“
„Ich habe unser Team gebeten, die Make-Design-Funktion vorübergehend zu deaktivieren, bis wir sicher sind, dass wir hinter ihrer Leistung stehen können,” schrieb Field auf X.
Generative KI wird letztendlich ein Wunderwerkzeug sein, aber dieser Vorfall mahnt nur, dass man diese Werkzeuge nicht ohne Sorgfalt verwenden darf. John Gruber von Daring Fireball drückt es so aus: „Generative KI ist wirklich gut und wirklich nützlich, wenn Sie sagen: ‘Hier ist eine Sache, helfen Sie mir, sie zu optimieren oder zu ändern.’ Aber wenn Sie sagen: ‘Erstelle eine neue Sache für mich’, dann werden Sie oft – oder vielleicht sogar meistens – einfach abgezockt.“
Aufpassen sollte man daher auch bei Apple Intelligence. Apple verfolgt schon einen vorsichtigen, die Benutzer werden darauf achten müssen, dass die Tools das tun, was sie tun sollen – ohne auf irgendetwas Rücksicht zu nehmen.
Dieser Artikel erschien zuerst bei unserer Schwesterpublikation Macworld und wurde aus dem Englischen übersetzt und lokalisiert.