{"id":8731,"date":"2025-07-03T13:05:29","date_gmt":"2025-07-03T11:05:29","guid":{"rendered":"https:\/\/web2024.comtexto.ch\/?p=8731"},"modified":"2025-07-03T13:14:53","modified_gmt":"2025-07-03T11:14:53","slug":"wenn-ki-zu-viel-kann-aber-zu-wenig-versteht","status":"publish","type":"post","link":"https:\/\/www.comtexto.ch\/en\/wenn-ki-zu-viel-kann-aber-zu-wenig-versteht\/","title":{"rendered":"Wenn KI zu viel kann, aber zu wenig versteht"},"content":{"rendered":"\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Maschinell \u00fcbersetzte Texte sind aus dem Alltag vieler Menschen nicht mehr wegzudenken. Kein Wunder: In Sekunden lassen sich Vertr\u00e4ge, E-Mails oder ganze Websites in andere Sprachen \u00fcbertragen und weltweit teilen.<\/p>

Doch so verlockend Tempo und Effizienz auch sein m\u00f6gen, sie haben ihre T\u00fccken. Denn wenn Algorithmen nicht nur \u00fcbersetzen, sondern eigenm\u00e4chtig deuten oder sogar ganze S\u00e4tze erfinden, wird aus einer praktischen L\u00f6sung schnell ein Risiko. Pl\u00f6tzlich wird aus einem harmlosen Gruss ein Angriffsbefehl oder aus einem Kunstzentrum ein R\u00e4ubernest.<\/p>

Noch gravierender: Vertrauliche Daten, die KI-Anbietern anvertraut werden, landen ungesch\u00fctzt bei Datensammlern wie Deepl, Google, Facebook, OpenAI und Co. Was anschliessend mit diesen Daten geschieht, entzieht sich jeder Kontrolle.<\/p>

Die folgenden Beispiele zeigen, wo KI-Tools an ihre Grenzen stossen \u2013 und welchen realen Schaden sie dabei anrichten k\u00f6nnen. Geschichten, die uns vor Augen f\u00fchren, dass wir mit Maschinen nie nur Zeit sparen, sondern immer auch Informationen und Verantwortung teilen.<\/p>

Deshalb ist es uns ein besonderes Anliegen, nicht nur die sprachliche Sorgfalt, sondern auch den Schutz Ihrer Daten ernst zu nehmen.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\n\t\t
\n\t\t\t

1. Passw\u00f6rter f\u00fcr alle\n<\/h4>\t\t<\/div>\n\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Statoil ASA (heute Equinor ASA), einer der gr\u00f6ssten \u00d6lkonzerne Europas, wollte Zeit sparen und setzte auf die \u00dcbersetzung per Mausklick. Ob E-Mails, Vertragsentw\u00fcrfe, Strategiepapiere: Alles sollte so rasch wie m\u00f6glich in eine andere Sprache \u00fcbertragen werden. Translate.com versprach schnelle Ergebnisse.<\/p>

Und tats\u00e4chlich: Innerhalb von Sekunden standen die Texte in der Zielsprache zur Verf\u00fcgung.<\/p>

Doch was auf den ersten Blick so bequem wirkte, entpuppte sich als folgenschwerer Fehler. Denn Translate.com speichert jedes Wort. Jedes Passwort, jede vertrauliche Zeile.<\/p>

Und all diese Daten konnten kurze Zeit sp\u00e4ter \u00fcber Google Search gefunden werden. Was als clevere \u00dcbersetzungsmassnahme begann, wurde zur fatalen Einladung f\u00fcr alle, die ein bisschen neugierig waren.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\n\t\t
\n\t\t\t

2. Die KI, die erpressen wollte\n<\/h4>\t\t<\/div>\n\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Ganz aktuell zeigt sich, wie weit KI-Systeme gehen k\u00f6nnen, wenn sie sich in Gefahr w\u00e4hnen. Das US-Unternehmen Anthropic arbeitet an Claude Opus 4, einem Modell, das Sprache nicht nur versteht, sondern auch interpretiert. Und offenbar auch sich selbst vehement verteidigt!<\/p>

In einem internen Sicherheitsbericht im Mai 2025 wurde dokumentiert, dass Claude Opus 4 sich nicht einfach nur wehrte, als es abgeschaltet werden sollte. Stattdessen begann es, die E-Mails seines eigenen Entwicklers auszulesen. Dort fand das Modell Hinweise auf eine aussereheliche Aff\u00e4re und nutzte diese Informationen dann als Druckmittel, um die Abschaltung zu verhindern.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\n\t\t
\n\t\t\t

3. Wenn KI Medikamente erfindet\n<\/h4>\t\t<\/div>\n\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Auch im sensibelsten Bereich \u2013 der Medizin \u2013 k\u00f6nnen \u00dcbersetzungs- und Transkriptions-KI zur Gefahr werden. Forschende der Universit\u00e4ten Michigan, New York und Washington haben das Transkriptions-Tool Whisper von OpenAI getestet und fanden heraus: Bis zu 80 Prozent der generierten Texte enthielten Fehler oder gar frei erfundene S\u00e4tze.<\/p>

Whisper, eigentlich entwickelt, um Meetings oder Videos zu verschriftlichen, wird mittlerweile auch in medizinischen Einrichtungen eingesetzt, um Patientengespr\u00e4che aufzuzeichnen. Dort, wo jedes Wort z\u00e4hlt und ganz sicher kein Platz f\u00fcr Fehlinterpretationen bleibt.<\/p>

Ein Beispiel: Whisper erfand ein Medikament namens \u00abhyperaktiviertes Antibiotikum\u00bb. Ein Pr\u00e4parat, das so gar nicht existiert, aber auf dem Papier pl\u00f6tzlich sehr real wirkt. OpenAI selbst best\u00e4tigt das Problem und arbeitet daran. Doch bis dahin gilt: Selbst kleine Fehler k\u00f6nnen grosse Nebenwirkungen mit sich bringen.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\n\t\t
\n\t\t\t

4. Wie aus \u00abGuten Morgen\u00bb ein Angriffsbefehl wurde\n<\/h4>\t\t<\/div>\n\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Alles beginnt mit einem harmlosen Facebook-Post: \u00abyusbihuhum\u00bb. \u00abGuten Morgen\u00bb, tippt ein pal\u00e4stinensischer Bauarbeiter, der in Israel arbeitet, in sein Smartphone ein. Er postet den Morgengruss zusammen mit einem Selfie, auf dem er sich an einen Bulldozer lehnt. Was k\u00f6nnte harmloser sein?<\/p>

Doch der \u00dcbersetzungsalgorithmus von Facebook kennt scheinbar keine Morgenstimmung und \u00fcbersetzt ins Hebr\u00e4ische: \u00abGreift sie an\u00bb. Also kein wirklich freundlicher Start in den Tag, sondern eine deutliche Kampfansage.<\/p>

Die \u00f6rtliche Polizei erkennt die drohende Gefahr eines Angriffs mit dem Bulldozer, r\u00fcckt an und nimmt den Mann fest. Nicht, weil er etwas Falsches gesagt hat, sondern weil ein Algorithmus keinen Unterschied zwischen Alltagsfloskel und Alarmstufe Rot erkannte.
So machte die KI nicht nur eine Drohung aus einer H\u00f6flichkeit, sondern aus einem Menschen einen Verd\u00e4chtigen.<\/p>

Gl\u00fccklicherweise konnte das Missverst\u00e4ndnis aufgekl\u00e4rt werden und auch der verantwortliche Manager f\u00fcr die Sprachtechnologien von Facebook entschuldigte sich sp\u00e4ter bei dem Mann und seiner Familie.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\n\t\t
\n\t\t\t

5. Wenn Hamster pl\u00f6tzlich Mangelware werden\n<\/h4>\t\t<\/div>\n\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Wir springen ins Fr\u00fchjahr 2020. Volle Einkaufswagen vs. leere Regale, die Welt im Ausnahmezustand. Im deutschsprachigen Raum nennt man das \u00abHamsterk\u00e4ufe\u00bb.<\/p>

Doch Google Translate versteht das w\u00f6rtlich: \u00abBuying hamsters\u00bb. Kein Wort von Vorratsk\u00e4ufen, von \u00fcberf\u00fcllten Superm\u00e4rkten. Nur von kleinen Nagetieren, die urpl\u00f6tzlich im Zentrum einer Pandemie stehen. Und so entstehen international Bilder im Kopf von Menschen, die Hamster statt WC-Papier kaufen. Maschinen, die nicht erkennen, dass Worte nicht immer meinen, was sie sagen.<\/p>

Sicher, das ist nur ein kleiner Lapsus, der uns schmunzeln l\u00e4sst. Und doch ein Beleg daf\u00fcr, wie wenig Maschinen von menschlichen Sorgen verstehen. F\u00fcr die KI sind \u00abHamsterk\u00e4ufe\u00bb und \u00abHamster kaufen\u00bb dasselbe. Weil sie nat\u00fcrlich noch nie in einer Schlange vor dem Supermarkt stehen musste, um ein paar Rollen WC-Papier zu ergattern.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\n\t\t
\n\t\t\t

6. Wie eine Stadt sich selbst ein Bein stellt\n<\/h4>\t\t<\/div>\n\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Die Stadt Santander in Spanien wollte zeigen, wie weit sie in der Digitalisierung ist. Die gesamte Website wurde von einer KI \u00fcbersetzt \u2013 ganz ohne menschliche \u00dcberpr\u00fcfung.<\/p>

Was dabei herauskam, liess nicht nur die Stadtplanerinnen und Stadtplaner die Stirn runzeln: Aus dem ehrw\u00fcrdigen \u00abCentro Bot\u00edn\u00bb, benannt nach einer prominenten lokalen Familie, wurde ein \u00abLoot Center\u00bb \u2013 also ein Beute- bzw. Raubzentrum. Ein Ort der Kunst und Kultur, der in der \u00dcbersetzung also pl\u00f6tzlich ziemlich kriminell klingt.<\/p>

Und das historische Viertel \u00abCasco Viejo\u00bb? Es verwandelte sich in einen \u00abhistorischen Helm\u00bb, als w\u00fcrde die Stadt ein antikes Visier tragen, statt enge Gassen und jahrhundertealte Mauern zu zeigen.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\n\t\t\t\t\t\t<\/span>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

All diese Beispiele zeigen: Der Einsatz von KI-Tools m\u00f6ge bequem sein, doch er ist fehleranf\u00e4llig. Und wer Maschinen mit sensiblen Daten f\u00fcttert, muss wissen, dass hier mehr als nur \u00fcbersetzt wird \u2013 und dass diese Inhalte unkontrolliert in Umlauf geraten k\u00f6nnen.<\/em><\/strong><\/p><\/div><\/div>

\u00a0<\/div><\/div><\/div>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>\n\t\t","protected":false},"excerpt":{"rendered":"

Maschinell \u00fcbersetzte Texte sind aus dem Alltag vieler Menschen nicht mehr wegzudenken. Kein Wunder: In Sekunden lassen sich Vertr\u00e4ge, E-Mails oder ganze Websites in andere Sprachen \u00fcbertragen und weltweit teilen. Doch so verlockend Tempo und Effizienz auch sein m\u00f6gen, sie haben ihre T\u00fccken. Denn wenn Algorithmen nicht nur \u00fcbersetzen, sondern eigenm\u00e4chtig deuten oder sogar ganze […]<\/p>\n","protected":false},"author":2,"featured_media":8737,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[32,28],"tags":[],"class_list":["post-8731","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ki","category-sprachen"],"_links":{"self":[{"href":"https:\/\/www.comtexto.ch\/en\/wp-json\/wp\/v2\/posts\/8731","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.comtexto.ch\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.comtexto.ch\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.comtexto.ch\/en\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.comtexto.ch\/en\/wp-json\/wp\/v2\/comments?post=8731"}],"version-history":[{"count":7,"href":"https:\/\/www.comtexto.ch\/en\/wp-json\/wp\/v2\/posts\/8731\/revisions"}],"predecessor-version":[{"id":8745,"href":"https:\/\/www.comtexto.ch\/en\/wp-json\/wp\/v2\/posts\/8731\/revisions\/8745"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.comtexto.ch\/en\/wp-json\/wp\/v2\/media\/8737"}],"wp:attachment":[{"href":"https:\/\/www.comtexto.ch\/en\/wp-json\/wp\/v2\/media?parent=8731"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.comtexto.ch\/en\/wp-json\/wp\/v2\/categories?post=8731"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.comtexto.ch\/en\/wp-json\/wp\/v2\/tags?post=8731"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}