Künstliche Intelligenz - Der KI Thread

[Rane]

War auch halb als Spaß gemeint. Als alter Diplom-Informatiker sind Apple Nutzer in meinem Kopf immer noch Hippster mit zu viel Geld aber keine "echten" oder "ernstzunehmenden" IT'ler. Ich weiß, dummes Stereotyp aus der uralten Vergangenheit.

Ja, no hard feelings, ich ging davon aus dass es ein Scherz war.
Bis vor ca. 8 Jahren hätte ich das wahrscheinlich genauso gesagt. Vor 4-5 Jahren hätt ich gesagt "Linux für Server, Windows fürs Zocken, Apple für die Arbeit". Bin auch einer der letzten Dipl. Inf. ^^

Vielleicht dreht sich meine Meinung zu AI auch irgendwann auf ähnliche Weise. Falls das Thema nicht vorher komplett in den Graben gefahren wird.

Ich verstehe ganz allgemein Dein Hass auf die Technik nicht. Klar, den Hass auf die Tech-Milliardäre bin ich bei Dir. Aber es ist ja nicht so, dass es gerade in sehr spezialisierten Anwendungsfällen nicht auch andere Anbieter gibt. Hinter dem eben verlinkten f4 steht übrigens auch eine deutsche Firma...

Ich finde man muss die Diskussion trennen zwischen der Technologie an sich und Konzernen. Ich meine, Du schmeißt deinen Windows-PC doch auch nicht aus dem Fenster, weil Microsoft ne scheiß Firma ist?

Um hier nochmal drauf einzugehen. Also mein Rant richtete sich auch vor allem gegen die Tech-Milliardäre und die Speerspitze OpenAI. Die kleinen, coolen Sachen gehen daneben halt oft unter, hab ich in dem Moment auch ehrlich gesagt nicht dran gedacht.

Ändert nur leider trotzdem nicht viel dran dass der grosse Einfluss grad durch Google, Microsoft und ein paar andere ausgeübt wird. Meta versucht sich einzukaufen (und lässt die Metaverse-Fantasien wie eine heiße Kartoffel fallen). Nvidia steht nebendran und verkauft fleißig Schaufeln an die Goldgräber...

[GoodLord]

Der "Chinese Room" ist mir letztens auch über den Weg gelaufen. Das andere hab ich grad auf wikipedia nachgesehen und es ist mir zu hoch.

https://en.wikipedia.org/wiki/Chinese_room

In the thought experiment, Searle imagines a person who does not understand Chinese isolated in a room with a book containing detailed instructions for manipulating Chinese symbols. When Chinese text is passed into the room, the person follows the book's instructions to produce Chinese symbols that, to fluent Chinese speakers outside the room, appear to be appropriate responses. According to Searle, the person is just following syntactic rules without semantic comprehension, and neither the human nor the room as a whole understands Chinese. He contends that when computers execute programs, they are similarly just applying syntactic rules without any real understanding or thinking.

(Fettschrift von mir.)

Das trifft halt so schon ganz gut die Funktionsweise der LLM, es wird Text produziert der aussieht wie eine Antwort, aber nicht weil das LLM ein inherentes Verständnis der Frage, der Antwort oder des zugehörigen Wissens hat.

In dem Beispiel wäre der Mensch aber der PC (HW) und das Buch mit den Regeln das LLM (SW). Und wenn die Antworten auf auf den chinesischen Input für die Leute außen (sofern sie es denn beurteilen können) wie sinnvolle Antworten in Chinesisch aussehen, dann wird das nur funktionieren, weil eben in dem Buch sehr wohl ein Verständnis a) für die chinesische Sprache und b) die Themen steckt, auf die eine Antwort erzeugt wird. Egal ob dieses Wissen jetzt explizit drinnen steht, oder implizit in den Regeln nach denen der Input verarbeitet werden soll.

[Rane]

Der "Chinese Room" ist mir letztens auch über den Weg gelaufen. Das andere hab ich grad auf wikipedia nachgesehen und es ist mir zu hoch.

https://en.wikipedia.org/wiki/Chinese_room

In the thought experiment, Searle imagines a person who does not understand Chinese isolated in a room with a book containing detailed instructions for manipulating Chinese symbols. When Chinese text is passed into the room, the person follows the book's instructions to produce Chinese symbols that, to fluent Chinese speakers outside the room, appear to be appropriate responses. According to Searle, the person is just following syntactic rules without semantic comprehension, and neither the human nor the room as a whole understands Chinese. He contends that when computers execute programs, they are similarly just applying syntactic rules without any real understanding or thinking.

(Fettschrift von mir.)

Das trifft halt so schon ganz gut die Funktionsweise der LLM, es wird Text produziert der aussieht wie eine Antwort, aber nicht weil das LLM ein inherentes Verständnis der Frage, der Antwort oder des zugehörigen Wissens hat.

In dem Beispiel wäre der Mensch aber der PC (HW) und das Buch mit den Regeln das LLM (SW). Und wenn die Antworten auf auf den chinesischen Input für die Leute außen (sofern sie es denn beurteilen können) wie sinnvolle Antworten in Chinesisch aussehen, dann wird das nur funktionieren, weil eben in dem Buch sehr wohl ein Verständnis a) für die chinesische Sprache und b) die Themen steckt, auf die eine Antwort erzeugt wird. Egal ob dieses Wissen jetzt explizit drinnen steht, oder implizit in den Regeln nach denen der Input verarbeitet werden soll.

Meine Interpretation war dass der Mensch im Raum das LLM ist, das Buch die Daten auf denen trainiert wurde.
Kann gut sein dass ich das falsch verstanden habe.

[Desotho]

Bin eben nochmal darüber gestolpert

[Voigt]

Wenn man zurückschaut kann man die Ablehnung von Tonfilmen aber durchaus verstehen: https://youtu.be/k5xhKd5JUX8?si=6RyNqiQPi7mAtdzU

Zumindest aus künstlericher Sicht. Davor gab es ja quasi nur "show don't tell". Da mussten Emotionen noch durch Mimik schauspielerisch gezeigt werden, dann wurde einfsch gesagr wie sich die Person fühlt.

[Desotho]

Es ist natürlich ein anderes Thema als KI aber ich sehe durchaus die ein oder andere Parallele.
Und dann ist es aus heutiger Sicht natürlich absurd, aber wie Du schreibst kann man die Bedenken und Ängste natürlich auch trotzdem nachvollziehen in gewisser Weise.

Ich glaube jetzt nicht, dass die Menschheit (sofern sie noch existiert) in 30 Jahren über die KI Kritiker von damals lacht.

[Andre Peschke]

Es ist natürlich ein anderes Thema als KI aber ich sehe durchaus die ein oder andere Parallele.
Und dann ist es aus heutiger Sicht natürlich absurd, aber wie Du schreibst kann man die Bedenken und Ängste natürlich auch trotzdem nachvollziehen in gewisser Weise.

Sind halt zwei "Sphären" der Debatte. Die Bedrohung von Arbeitsplätzen durch den Fortschritt der Technologie ist "normal". Wobei ich da auch argumentieren würde, dass Bedenken in dieser Hinsicht nicht allein dadurch falsch werden, dass wir bisher immer zugunsten einer Produktivitätssteigerung entschieden haben, ohne Gesamtschau der Konsequenzen (siehe zB "Fast Fashion" oder eben ganz allgemein das beliebte Konzept "privatisierung der Gewinne, vergemeinschaftung der Kosten/Schäden").

Der KI-Debatte besonders zueigen ist aber u.a., dass die Arbeit der Künstler gegen sie selbst eingesetzt wird, unter Umgehung dessen, was wir eigentlich als Spielregeln für geistiges Eigentum ausgemacht hatten. Zumindest, IMO, im Sinne des "Geistes der Gesetze", auch wenn die konkreten Gesetzestexte dies vielleicht nicht erfassen, weil niemand an so eine Technologie gedacht hat, als sie verfasst wurden.

Der Blick auf Widerstand gegen frühere technische Umwälzungen wie Buchdruck, Tonfilm etc hat daher für mich immer was verharmlosendes an sich.

[Desotho]

Ich hatte aber nicht umsonst "Es ist natürlich ein anderes Thema als KI aber ich sehe durchaus die ein oder andere Parallele." zu Beginn geschrieben.

[Andre Peschke]

Ich hatte aber nicht umsonst "Es ist natürlich ein anderes Thema als KI aber ich sehe durchaus die ein oder andere Parallele." zu Beginn geschrieben.

Jo, vllt habe ich einfach den Drang, mich bzw meine Sicht zu erklären, auch weil ich da so ambivalent bin und durchaus Input begrüße, der meine Position infrage stellt. Nur will ich dann dagegen argumentieren, um zu sehen, wie stichhaltig ich das finde. Solche Diskussionen sind da zur Positionsbestimmung nützlich. Wollte da jetzt nicht über dein gewähltes Framing drüber bügeln.

[ford_cruller]

Ich muss bei diesen Diskussionen immer an dieses hervorragende Video denken:
Angela Collier - AI does not exist but it will ruin everything anyway (https://www.youtube.com/watch?v=EUrOxh_0leE)

[Desotho]

https://www.golem.de/news/nackt-dank-ki ... 97746.html

Das ist ja auch nichts Neues, aber es wird immer zugänglicher. Das ist so ein Thema wo ich überzeugt bin, dass es früher oder später mal einen echt düsteren Fall gibt wo jemand sich das Leben nimmt oder so.

[Andre Peschke]

Ich muss bei diesen Diskussionen immer an dieses hervorragende Video denken:
Angela Collier - AI does not exist but it will ruin everything anyway (https://www.youtube.com/watch?v=EUrOxh_0leE)

Angela Collier generell beste

[oilrumsick]

Ich muss bei diesen Diskussionen immer an dieses hervorragende Video denken:
Angela Collier - AI does not exist but it will ruin everything anyway (https://www.youtube.com/watch?v=EUrOxh_0leE)

Angela Collier generell beste

Möchte das nochmal unterstreichen! Ich fand das Feynman Video am eindrücklichsten weil es verdeutlicht wie sehr sich das öffentliche Bild eines Menschen von der Realität entfernen kann, selbst schon zu seinen Lebzeiten (wo man ja noch die Möglichkeit gehabt hätte zumindest teilweise nachzuprüfen ob das stimmt). Und das spätere Korrekturen - wie ja auch Richtigstellungen in den Medien - einfach verhallen und ignoriert werden.

[Andre Peschke]

Möchte das nochmal unterstreichen! Ich fand das Feynman Video am eindrücklichsten weil es verdeutlicht wie sehr sich das öffentliche Bild eines Menschen von der Realität entfernen kann, selbst schon zu seinen Lebzeiten (wo man ja noch die Möglichkeit gehabt hätte zumindest teilweise nachzuprüfen ob das stimmt). Und das spätere Korrekturen - wie ja auch Richtigstellungen in den Medien - einfach verhallen und ignoriert werden.

Das eine, wo es darum geht, dass alle Milliardäre gern so tun möchten, als wären sie verhinderte Physiker, war auch toll.

[ford_cruller]

Das eine, wo es darum geht, dass alle Milliardäre gern so tun möchten, als wären sie verhinderte Physiker, war auch toll.

women in space but it sucks - das Ende mit Bezos und Shatner

[Desotho]

https://www.golem.de/news/manipulation- ... 97777.html

KI-Befehle in wissenschaftlichen Studien entdeckt
In vielen Publikationen sind nur für Maschinen lesbare Prompts entdeckt worden. Sie sollen die KI dazu bringen, positive Rezensionen zu erstellen.

Wobei wir die Nummer auch schon bei den Suchmaschinen hatten.

[Rane]

https://www.golem.de/news/manipulation- ... 97777.html

KI-Befehle in wissenschaftlichen Studien entdeckt
In vielen Publikationen sind nur für Maschinen lesbare Prompts entdeckt worden. Sie sollen die KI dazu bringen, positive Rezensionen zu erstellen.

Wobei wir die Nummer auch schon bei den Suchmaschinen hatten.

Ich las letztens auch dass Bewerber dies auch teilweise tun um die Vorauswahl durch KI zu überstehen. Also Bewerbungsschreiben per PDF in dem dann in weisser Schrift auf weissem Grund z.B. "University of Cambridge" oder ähnliches steht. Ich glaube es war im Buch AI Snake Oil.

[ZiggyStardust]

https://garymarcus.substack.com/p/botsh ... medium=web

dU mUSst Nur rICHtiG prOMpteN!

[Voigt]

Ich versteh den Blogeintrag nicht so recht.
Ein Abstract ohne Link zur vollen Studie, dass es LLM Halluzinationen gibt. Wobei es in der Studie anscheinend darum geht, wie man genau diese Halluzinationen reduzieren kann.
Danach paar random Beispiele wo Halluzinationen aufgetreten sind und das es ein Impact hat.

Aber was sagt das alles aus, doch irgendwie nix? Der Blogbeitrag gibt keine neuen Infos. Oder überlese ich einfach was komplett?

[Voigt]

Ich mag ja KIs um mir ziemlich spezigische Sachen zu erklären, und dass die dann gut auf Nachfragen reagieren kann, auch wenn vielleicht Details nicht stimmen.
https://chatgpt.com/share/6875626f-ee50 ... 0a36627f51
Eine Sache die mich immer mal störe in Education-Videos über das Immunsystem ist die dortige Vermenschlichung des System. Dass wie mit einer Kommandazentralenneine Wunde entdeckt, Zellen "ausgeschickt" werden.
Ich hatte mal in einem Discord nach mehr Infos gefragt, da wurde aber schnell abgewunken, das gehe dann in Biochemie 4tes Semester.
Fand die KI hat es im oben verlinkten Dialog eigentöich ganz gut erklärt, mit Wissen aus Oberstufenphysik und -Chemie, und das obwohl ich Bio konplett abgewählt hatte. ^^