WTF, AI! KI Schlangenöl und wie man es erkennt

Schlangenöl ist die Bezeichnung für ein Produkt, das wenig oder keine echte Funktion hat, aber als Wundermittel zur Lösung vieler Probleme vermarktet wird.

Das sagt Wikipedia. Auf KI angewandt sind das KI-Lösungen, die eigentlich keine KI sind, bzw. etwas versprechen, dass nicht eingehalten werden kann. So viel zur Definition. Was das bedeutet und wie man es erkennt, hat Arvind Narayanan in seinem Talk „How to recognize AI snake oil“ (PDF) tiefer beleuchtet. Seine Hauptthese ist, dass eine KI keine sozialen Ergebnisse vorhersagen kann.

Besonders gut finde ich folgendes Appell:

We must resist the enormous commercial interests that aim to obfuscate this fact.

Dem ist nichts hinzuzufügen.

Photo by Austin Chan on Unsplash

Autonome Waffen – die dunkle Seite der KI

Wenn über KI gesprochen wird, kommen meist Themen wie Bilderkennung/-klassifizierung, Automatisierungen und Verarbeitung von sehr großen Datenmengen vor. Es wird von autonomen Systemen und selbstfahrende Automobile gesprochen. Dazu Algorithmen, die uns ermüdende und sich wiederholende Arbeit abnehmen, damit sich der Mensch wieder auf seine Kreativität besinnen kann. Was sehr selten zur Sprache kommt, sind militärische Einsatzgebiete. Dass die Armeen dieser Welt bereits unbemannte Drohnen besitzen und benutzen, ist Alltag geworden. Aber sind wir ehrlich: Die Dinger muss doch kein Soldat mehr fernsteuern. Ein Flugzeug automatisiert in der Luft zu halten, Ziele zu suchen und per Bildanalyse das Ziel als Angriffsziel identifizieren? Das ist 2019 kein Hexenwerk. Praktischer Nebeneffekt: Es wird kein Mensch mehr mit der Tötung eines Menschen belastet! Das übernimmt die Maschine. Die Frage, die zurückbleibt, ist: Wer steht über wem? Eine Maschine entscheidet über das Leben eines Menschen. Auf welcher Grundlage, welche Trainingsdaten? Wie wird mit False Positives umgegangen? Moralisch ist es auf jeden Fall verwerflich und hochgradig unethisch.

Weiterlesen “Autonome Waffen – die dunkle Seite der KI”

Precision Farming: Die KI wird zum Bauer

Vor einer gefühlten Ewigkeit habe ich meine Diplomarbeit in Informatik geschrieben. Sie behandelte einen kleinen Teil von dem, was unter agroXML zu finden ist. Schon damals, Anfang 2000, war ich beeindruckt, wie digital die Landwirtschaft bereits ist. GPS-gestütztes Bearbeiten von Feldern, optimale Aussaatlinien finden etc. Das war damals schon nichts Neues. Damals war mir nicht klar, dass es hierbei bereits um Precision Farming handelte.

Doch gerade die Landwirtschaft zeigt, wie sinnvolle Digitalisierung durchgeführt wird. Autonome Fahrzeuge, die Felder ohne zutun eines Menschen bestellen. Klar, die Felder sind sehr groß und die Gefahr durch seltsam agierende Menschen ist hier nicht so groß, wie bei einem Fahrzeug im fließenden Stadtverkehr. Es ist nicht verwundernd, dass moderne Algorithmen und Bildanalysen in der Landwirtschaft benutzt werden. Pflanzen analysieren und somit die Schädlingsbekämpfung optimieren oder Qualitätsprüfung direkt bei der Ernte sind nur ein paar Beispiele. Durch die gesammelten Daten kann auf einem Feld die Ausbringung von Dünger auch punktuell erfolgen. Eine Überdüngung wird vermieden.

Das alles benötigt eine Vernetzung. Die ist im ländlichen Raum nicht immer gegeben. John Deere hat für diesen Fall eine mobile 5G Station entwickelt, die lokale Netze Aufspannen kann. Per Satellit wird die Internetverbindung hergestellt. Für mich ist einmal mehr die Landwirtschaft ein Paradebeispiel, wie Digitalisierung funktioniert!

KI TÜV – Brauchen wir sowas?

Die Angst vor Algorithmen und der damit aufkommenden KI ist vor allem in den Bereichen am größten, die nicht verstehen, was das ist. Das ist genau so immer wieder bei der Regierung zu spüren. Es ist klar, dass die Politiker nicht alles verstehen müssen und können. Dafür gibt es Berater. Leider sind diese meist nicht in der Lage es selbst zu verstehen oder sie erfolgen andere Ziele. Manchmal fehlt allem Anschein nach auch der tiefere Einblick und das Gefühl für Sinnhaftigkeit ihrer Vorschläge. Es gab schon den Ruf nach einem Algorithmen TÜV. Was das bedeutet und wie aufwendig eine Analyse ist, das war erst mal zweitrangig. Algorithmen TÜV – klingt sehr gut und auch sehr deutsch. Dass ein Algorithmus nicht nur aus 5-10 Zeilen Code besteht, hat keiner bedacht. Facebook hat wahrscheinlich mehrere Millionen Zeilen Code. Wer prüft, wie die Code-Teile miteinander arbeiten, um bspw. den Algorithmus für die Anzeige der Timeline zu implementieren? Wie VW gezeigt hat, kann die Auswirkung eines Algorithmus auch vor dem Prüfer versteckt werden. Zumindest eine Zeit lang.

Weiterlesen “KI TÜV – Brauchen wir sowas?”

WTF, AI! Stimmen klonen, mit Turbo!

Über Deep Fakes und dessen Auswirkungen habe ich mich schon ausgelassen. Wer nicht komplexe Videos erstellen, sondern nur schnell Stimmen klonen möchte, kann das jetzt (endlich?) sehr schnell erledigen.

Waren bisher noch längere Samples notwendig, um die zu klonende Stimme zu analysieren, sind es mit einem neuen Algorithmus nur noch FÜNF (5) Sekunden. Das ist so beeindruckend wie erschreckend. Fünf Sekunden sind sehr wenig. Die Demos, die das Video zeigt, sind wirklich beeindruckend.

Im Klartext heißt das, jede Stimme kann mit kurzen vorhandenen Stimmschnipseln geklont werden. Jede. Ich freue mich schon auf die Nachrichten von Scam-Anrufen, auf vermeintliche Aussagen von Politikern, die kritisch sind uvm!. Um es mit dem Schluss Statement des Videos zu sagen: What a time to be alive!

Wer es mal ausprobieren möchte: Das Repository liegt hier!

Photo by Matt Botsford on Unsplash

Selbstfahrende Autos: PyTorch bei Tesla

Wer einen Einblick in die Komplexität von selbstfahrenden Autos bekommen möchte, dem sei Andrej Karpathys Talk während der PyTorch DevCon 19 ans Herz gelegt. Als Senior Director Artificial Intelligence bei Tesla kann er die Komplexität hinter den Algorithmen und Neuronalen Netzwerken anschaulich erläutern. Eine Straße und die jeweilige Verkehrssituation zu erkennen und zu deuten, fordert einiges von den verwendeten Netzwerken und Algorithmen. Vor allem die Kombination von etlichen Sensoren und Kameras erhöhen die Komplexität erheblich.

Photo by Vlad Tchompalov on Unsplash

Deep Fakes kommen in der Masse an

Dass Deep Fakes ein Problem darstellen werden, habe ich bereits an anderer Stelle ausführlicher beschrieben. Mit meiner Einschätzung bin ich nicht ganz alleine. Mittlerweile sind auch durch Medien mit großer Reichweite auf diese Problematik gestoßen. Claire Wardle von der New York Times erklärt in einem YouTube-Video sehr gut, worin die eigentliche Herausforderung liegt:

Ihre Kernaussage ist, dass man keine Deep Fakes benötigt um zu manipulieren oder Stimmung zu machen. Damit hat sie recht. Dennoch unterstützen Deep Fakes die sogenannten Shallow Fakes auf einem ganz anderem Level. Entscheidend ist, dass es immer schwieriger wird, zu unterscheiden, was real ist, und was nicht. Und ihr Schlussappell kann man gar nicht besser auf den Punkt bringen:

Weiterlesen “Deep Fakes kommen in der Masse an”

KI/Machine Learning in Computerspielen

In der Historie von Computerspielen hat KI schon lange Einzug gehalten. NPCs sollten sich möglichst menschlich verhalten, Gegner nicht nur Kanonenfutter sein. Betrachtet man beispielsweise die FIFA-Reihe, stellt man schnell fest: Die Gegner werden immer besser. Ich habe mich gefragt, wo bereits heute Machine Learning Modelle in aktuellen Spielen verwendet werden. Wenn schon Zahnbürsten intelligent werden, muss es doch hier auch etwas geben.

Weiterlesen “KI/Machine Learning in Computerspielen”

WTF, AI! Warum habe ich noch gesunde Zähne?

Die Auswüchse in Sachen KI kennen keine Grenzen. Marketingabteilungen fühlen sich gezwungen, auch auf banalste Dinge einfach mal „Künstliche Intelligenz“ zu pappen. So auch Oral-B, die elektrische Zahnbürsten herstellen. Mit dem Modell Genius X 20000N (Wer denkt sich solche Namen aus?) zieht angeblich KI in die Bäder und vor allem Münder ein. Da stellt sich sehr schnell die Frage, was ist denn intelligent an den Zahnbürsten? Das kann Oral-B sehr gut erklären:

Bewegungssensoren verfolgen Ihr Putzverhalten mithilfe künstlicher Intelligenz in Echtzeit. Die Sensoren erkennen während des Putzens die genaue Position der Zahnbürste und sorgen so für optimale Ergebnisse.

Wenn das tatsächlich Intelligenz sein soll, dann ist jeder Näherungssensor im Auto und jeder Lagesensor in Geräten wohl als Intelligenz anzusehen. Jede Fliege hat mehr Intelligenz. Sie schafft es, der nahenden Hand schnell auszuweichen und wohlduftende Nahrung zu finden. Mich würden die Trainingsdaten für diesen hochkomplexen Algorithmus in den Zahnbürsten interessieren.

Das wäre nur noch von einer intelligenten Haarbürste zu toppen, oder? Die kam allem Anschein nach aber nicht wirklich auf den Markt.

WTF, AI! AGB mit KI prüfen

Hand aufs Herz: Keiner liest AGB von modernen Plattformen, wie Facebook, Twitter und Co. Aber alle stimmen zu. Es ist kein Geheimnis, dass diese AGB mehr Worte umfassen, als ein Stück von Shakespeare. Der Inhalt ist jedoch erheblich trockener und hat weniger Substanz.

Da kaum einer diese Terms & Conditions liest, weiß man auch nicht so genau, was zugestimmt wurde. Wie ethisch korrekt sind die Unternehmen? Was geschieht mit meinen Daten?

Daten, da ist wieder das Öl der Neuzeit. Werden meine Daten zu irgendwelchen Trainingszwecken benutzt? Gesichtserkennung, Verhaltensanalysen etc.?

Das Projekt Useguard dreht den Spieß um. Eine KI analysiert die AGB! Was dabei rauskommt ist nicht wirklich überraschend. Useguard verteilt Noten nach der Analyse der Textwüsten. So bekommt Twitter ein F (die amerikanische Note für eine glatte Sechs).

Weiterlesen “WTF, AI! AGB mit KI prüfen”