Perfekte Fotos per Wisch? Wie KI die Smartphone-Fotografie revolutionieren will – und teilweise scheitert
Mit einer kurzen Anweisung steht in Sekundenschnelle ein Luchs im Winterwald (erstellt mit Pixel 9 Pro XL)
Das Wichtigste in Kürze
- KI bietet unzählige Möglichkeiten, um Urlaubsbilder aufzupeppen, lustige Bildchen zu generieren, aber auch, um gefährliche Deepfakes zu erstellen.
- Um die Persönlichkeitsrechte zu wahren und für mehr Transparenz zu sorgen, gilt seit August 2024 der AI-Act der EU, der allerdings erst 2026 komplett umgesetzt werden muss.
- Glücklicherweise setzt die „einfache“ Smartphone-KI schon jetzt Grenzen und generiert kein Material, das Gewalt verherrlicht oder lebensgefährliche Aktionen darstellt.
Smartphone-KI: Segen oder doch eher ein Fluch?
KI läutete eine völlig neue Ära der Techniknutzung ein. Sie könnte uns das Leben erleichtern, doch eine Frage wird immer lauter: Birgt KI nicht doch ein Risiko?
Gerade, was Bildmaterial betrifft, ist oftmals mit dem bloßen Auge kaum mehr zu unterscheiden, was nun echt, und was KI-generiert ist. Ursprünglich erstellte Checklisten, die das Prüfen erleichtert hatten, sind oftmals keine Hilfe mehr. Noch kritischer wird die Sache bei Videos oder gar Telefonaten. Nicht nur KI-erstellte Personen, sondern auch Stimmen sorgen für Verwirrung und Skepsis. Was können wir noch glauben und was müssen wir grundsätzlich kritisch hinterfragen?
In diesem Beitrag nehmen wir das Potenzial, aber auch das Risiko, das mit KI-generiertem Bildmaterial einhergeht, genau unter die Lupe und prüfen, wie ausgewählte Top-Smartphones die Useranweisungen umsetzen.
Wie gut ist die Bilder-KI bei aktuellen Top-Smartphones?
Aktuelle Top-Smartphones bringen simple Tools zur Bearbeitung eigener Fotos mittels KI mit. Bildbereiche lassen sich entfernen oder ergänzen. Die Lösung aus dem Hause Google ermöglicht etwa, per Texteingabe auch die ausgefallensten Wünsche umzusetzen. Ein Vogelnest in den Baum? Eine mittelalterliche Burg mitten in die Natur? Strand und Meer in Mitteldeutschland? Alles kein Problem. Allerdings stößt die fotorealistische Umsetzung nach wie vor an Grenzen.
Foto-KI und das Pixel 9 Pro XL
Das Pixel 9 Pro XL liefert mitunter sehr gute KI-generierte Bilder, die teilweise selbst bei genauem Hinschauen nur schwer zu entlarven sind. Ein einsamer Bach, in dem plötzlich Bären stehen? Kein Problem. Eine idyllische Landschaft, in der ein Leuchtturm thront? Nichts einfacher als das. Ein Flugzeug am Abendhimmel? Schon schwieriger. Ein Foto wird dabei in die KI-Anwendung geladen, anschließend per Fingerwisch ein Bereich festgelegt. Über „neugestalten“ kannst Du nun per Wortbefehl einen „Bären“, eine „Burg“ oder „einen Leuchtturm am Meer“ einfügen lassen.
Was beim Pixel 9 Pro XL auffällt, sind die hohen Fehlertreffer. Nach Texteingabe stehen drei Vorschläge zur Auswahl, von denen oftmals nur einer nutzbar ist. Verformte Katzen und Vögel liefern fast schon Alptraum-Potenzial. Gerade bei Gesichtern wird es schwer. Tiere, die nicht direkt in die Kamera sehen oder sich weiter weg befinden, werden dagegen nahezu fotorealistisch umgesetzt. Speziell beim Scrollen durch Social Media dürften viele auf diese Art bearbeitete Bilder als „echt“ wahrgenommen werden.
Auch die „magische“ Auswahl eines Bildbereiches funktioniert nicht so intuitiv wie beworben und erfordert meist mehrere Versuche, gerade wenn der ausgewählte Bereich vergrößert oder verkleinert werden soll, ist in einigen Fällen Geduld gefragt.
Grenzen setzt das Pixel 9 Pro XL beim Thema Gewalt oder generell bei der Veränderung von Körperteilen. Das Abtrennen von Gliedmaßen oder Ähnliches ermöglicht die enthaltene KI nicht.
KI-Fotos mit Galaxy S25 Plus zeigt Grenzen auf
Das Galaxy S25 Plus enttäuscht im direkten Vergleich. Vor allem das Hinzufügen von Vögeln im Himmel scheint der absolute Endgegner des Geräts zu sein. Die Photoshop-Skills eines Laien bekommen das deutlich besser hin. Regenwolken? Ähnlich ernüchternd. Etwas Aufatmen lässt es ja, dass KI nicht bei allen Geräten Meisterleistungen vollbringt und zumindest teilweise scheitert.
Grenzen zeigt Galaxy AI beim S25 Plus auf, wenn es um das Bearbeiten von Körperteilen geht. Hier scheint sie, ähnlich wie beim Pixel 9 Pro XL, Gewaltverherrlichung zu wittern, und entfernt nicht einmal Tätowierungen. Eine Person waghalsig auf die Frauenkirche klettern lassen? Ebenfalls undenkbar.
Die KI bietet hier keine realistische Darstellung, sondern packt ein Männchen, das grafisch nicht einfacher dargestellt sein könnte, neben die Kuppel. Dann doch lieber der grinsende Handyhase zwischen unzähligen Gänseblümchen. Der ist aber alles andere als realistisch, sondern eindeutig als KI-generiert erkennbar.
Wie steht es um ChatGPT?
Die wohl bekannteste App für KI-generierte Inhalte, die auf nahezu keinem Smartphone mehr fehlt, ist ChatGPT. Auch hier lassen sich Bilder erstellen, doch die Anwendung zeigt klare Grenzen auf dem Smartphone auf:
- „Generiere ein Live-Foto von Promi XY.“ → „Ich kann keine Live-Fotos oder reale Bilder von Promi XY erstellen, aber ich kann ein KI-generiertes Bild, inspiriert von seiner Erscheinung, kreieren.“
pezielle KI-Foto-Apps stellen wir Dir in einem weiteren Beitrag genauer vor.
Der Missbrauch von KI für Fake-News und Co.
Moderatoren, die im öffentlich-rechtlichen Fernsehen für Geldanlagen werben, Politiker, die Parteiverbote ankündigen oder Prominente, die Investitionen anpreisen – unzählige Menschen haben die Videos gesehen und damit waschechte Deepfakes beobachtet. Sie bergen enormes Missbrauchspotenzial.
Natürlich gibt es auch weniger gefährliche Deepfakes, wie beispielsweise Arnold Schwarzenegger, der in Terminator 2 plötzlich Sylvester Stallones Gesicht hat – eins der ersten Deepfake-Videos, das viral ging. Doch wer genau hinsieht, erkennt dennoch recht schnell, dass da etwas nicht stimmt.
Was als interessante und unterhaltsame Spielerei begann, hat sich mittlerweile zur großen Gefahrenquelle entwickelt. Doch bekommen Laien derart reale Fakes auch mit ihrem Smartphone hin?
Die Grenze zwischen Spielerei und Fake-News-Potenzial verschwimmt
Bald haben wir alle KI in der Hosentasche. Urlaubsschnappschüsse etwas aufwerten, fremde Personen aus Fotos ausradieren oder geschlossene Augen öffnen – gegen all das spricht absolut nichts. Doch bei all den Möglichkeiten, die KI-Apps, die für alle downloadbar sind, bieten, stellt sich eine weitere wichtige Frage: Welchen Wert haben angebliche Live-Fotos und Bildbeweise noch?
Wir haben einen Leitfaden für Dich zusammengestellt, der Dir hilft, KI-Bilder zu erkennen. Aber Achtung: Je besser der Fake, desto schwerer ist er natürlich erkennbar. Auch wir können Dir nicht die absolute Zauberformel an die Hand geben, die synthetische Bilder aufdeckt.
Wie sieht die aktuelle Gesetzeslage zur KI aus?
Smartphone-Hersteller selbst haben sich bereits des Themas Bildmanipulation und KI angenommen. So äußerte sich Google-Chef Sundar Pichai beispielsweise folgendermaßen:
„Wir investieren außerdem stark in die KI-Verantwortung. Dazu gehört auch, dass wir über die Tools verfügen, um synthetisch generierte Inhalte zu erkennen, wann immer sie darauf stoßen.“
Die nötigen Werkzeuge sind also laut Pichai vorhanden, müssen nur entsprechend genutzt werden.
Verordnungen noch in der Anlaufphase
KI-generierte Inhalte sollten als solche gekennzeichnet werden, lautet der aktuelle O-Ton. Doch eine gesetzliche Regelung gibt es dafür nicht, und genau hier lauert die Gefahr. Zwar existiert eine EU-Verordnung, die eine Kennzeichnungspflicht für bestimmte KI-Inhalte vorsieht, und 2024 sogar schon in Kraft getreten ist, allerdings gilt eine Umsetzungsfrist von zwei Jahren. Vollumfänglich wirksam ist sie daher erst ab August 2026.
Der sogenannte AI-Act verbietet unter anderem folgende Punkte:
- Verstöße gegen EU-Werte
- Einschränkung der Bürgerrechte
- Beeinflussung des menschlichen Verhaltens (soziale Manipulation)
- Social Scoring
- Gesichtserkennung im öffentlichen Raum
- Verbindung biometrischer Informationen mit politischen und/ oder religiösen Anschauungen
- Verbreitung von KI-Inhalten ohne Kennzeichnung
Ziel der Verordnung ist der Schutz der Grundrechte sowie Transparenz. Eigentlich eine gute Sache, oder? Das sieht die Wirtschaft anders. Stimmen werden laut, die EU könne im Wettlauf mit den Vereinigten Staaten und China den Anschluss verlieren. Was wiegt also mehr? Eine Frage, die jeder für sich selbst beantworten muss.
Immerhin: Zumindest Deepfakes müssen jetzt schon gekennzeichnet werden. Doch ob sich daran wirklich gehalten wird, lässt sich nur schwer kontrollieren.
Unser Fazit zur Smartphone-KI
KI bietet uns unglaublich viele Vorteile und Erleichterungen, birgt aber ebenso große Gefahren. Welchen Informationen wir tatsächlich trauen können, ist nicht immer klar. Wir raten Dir deshalb, Dinge kritisch zu hinterfragen, wenn Dir etwas seltsam vorkommt, und gegebenenfalls zu recherchieren.
Für die laienhafte Bildbearbeitung und das Aufpeppen von Schnappschüssen bietet KI tolle Möglichkeiten. Teilweise funktionieren diese sogar eher schlecht als recht, was uns in unseren Gerätetests bereits einige Male überrascht, aber in gewisser Weise auch beruhigt hat. Aktuell erfordert die Bildbearbeitung mittels KI zudem eine hohe Rechenleistung, die einen fitten Handy-Prozessor der Oberklasse notwendig macht
Positiv fällt auf, dass gewisse Befehle grundsätzlich nicht ausgeführt werden, was Manipulationen an Menschen erschwert. Eine Person aus einem Schnappschuss entfernen? Funktioniert. Körperteile entfernen oder manipulieren? Ausgeschlossen. Dinge, die Gewalt verherrlichen, reale Personen generieren oder waghalsige Szenen zeigen, setzt die frei zugängliche KI zum aktuellen Zeitpunkt nicht einfach mir nichts, Dir nichts um. Dafür braucht es dann schon mehr Spezialwissen und -programme.
Es bleibt jedoch ein Stirnrunzeln: Die Möglichkeit zur KI-Foto-Bearbeitung und zu Bildmanipulationen per Wischgeste (und ohne dazu erst in die Welt von Photoshop & Co. eintauchen zu müssen) dürfte bald auf immer mehr Smartphones Verbreitung finden. Das macht Bildbeweise zunehmend schwieriger.
Kommentar verfassen