KI, die nicht richtig zählen kann, und es irgendwie doch weiss

Wir alle haben bereits mehrmals gelesen, dass ChatGPT-4o anscheinend nicht in der Lage ist, die Anzahl Buchstaben „R“ im Wort „Strawberry“ richtig zu zählen. Das liegt eben schlichtweg an der Tokenisierung aller Worte zwecks Vectoring. (Siehe Bild)

(*CHatGPT-4o kann nicht richtig zählen, wie viele Rs das Wort Strawberry hat*)

Allerdings ist das gleiche LLM in der Lage, in diversen Programmiersprachen funktionierende Codes für das Zählen der Rs im Wort „Strawberry“ zu erzeugen (Siehe Bild).

*(Das LLM kann wiederum Codes erzeugen, die das richtige Ergebnis liefern.)*

Nun ist ChatGPT-o1 bald für alle zugänglich (aktuell nur Preview und Mini Versionen für Pro und Team Benutzer verfügbar). ChatGPT-o1 verspricht wesentlich bessere und präzisere Antworten durch Reasoning, also der künstlichen Überlegungen liefern zu können.

Ich habe noch keinen Zugriff auf ChatGPT-o1, konnte jedoch in einem Youtube Video einen Auszug des sogenannten „Chain Of Thought“ von ChatGPT-o1 sehen. Dieser ist ewig lang, worin ChatGPT „überlegen“ musste und begründet, warum das Wort Strawberry drei „R“ Buchstaben hat.

*(In beiden LLM Versionen kann man das „Chain of Thought“ einsehen um sich von der LLM erklären zu lassen, wie es auf das Ergebnis kam. Das CoT kann wirklich sehr lang sein)*

Vergleichen wir das mit einem Menschen

Der Mensch kann in der Sekunde ca. 10 bis 100 MB Daten verarbeiten.
Seine Augen haben eine Auflösung von ca. 580 Megapixel.
Er hört alles was zwischen ca. 20 und 20.000 Hhz liegt.
Sein Gehirn hat eine Speicherkapazität von ca. 1 Petabyte (mehr als tausend 1 Terrabyte Festplatten) und kann Datenströme zwischen 100 MBit bis sogar einem Gigabit/Sekunde verarbeiten.

Unsere Nervenzellen haben je Gehirn eine Länge von ca. 5.8 Mio. km, wenn man sie hintereinander aufreihen würde. Das Gehirn wickelt sich ca. 145 Mal um den Äquator. Das menschliche Gehirn schafft ungefähr 10^13 analoge Rechenoperationen je Sekunde und benötigt dafür gerade mal 15 Watt.
Zum Vergleich: Ein moderner Supercomputer schafft heute ca. 450000 TeraFLOPs (Gleitkommaoperationen pro Sekunde) und benötigt hierfür bis zu 200 Megawatt. (1 TeraFLOP = 10^12 FLOPs)

Kurz gesagt, ein Blick auf das Wort Strawberry langt, oder einmal Vorsprechen reicht, dass wir die Anzahl des Buchstaben R in nicht einmal einer Sekunde berechnen, für jene Operation, für die ChatGPT-o1 ein langes Reasoning benötigt, um mit der Anzahl endlich richtig zu liegen.

DAS… IST m.E. KEINE KI!

Sicherlich sind die Ergebnisse beeindruckend. ChatGPT-o1 hat sogar den Test für die Stelle „Researcher Engineer for AI“ mit Bravour bestanden. Aber wurde es nicht eben mit all den Daten zuvor trainiert und arbeitet auf einem Supercomputer um eben solche Berechnungen schneller durchzuführen als der Mensch??

Wir sollten dem, was wir im Bereich der künstlichen Intelligenz bis heute geschaffen haben völlig respektvoll und mit Interesse begegnen, da es unser Leben in vielen Lagen einfacher macht, unsere Aufgaben schneller löst, uns dabei hilft gewisse Tasks schneller und manchmal gar besser als wir selbst zu erledigen.

Wir sollten jedoch von dem Hype runterkommen, auf KI aufzublicken und es so darzustellen, als sei es Alien Sience. Denn eines ist sicher: ChatGPT weiss nicht einmal, was Buchstaben tatsächlich sind.🍓