Künstliche Intelligenz - Der KI Thread

[Andre Peschke]

Oder mal ein nützliches Use Case: In der App von DeepL (Anbieter für KI-gestützte Übersetzung) kannst Du Fotos hochladen und das übersetzt Dir die Schrift direkt innerhalb der Fotos. Das kann man super im Ausland nutzen und funktioniert sehr zuverlässig. Könnte man auch in ChatGPT & Co. machen, aber in der DeepL App geht das wesentlich schneller. :mrgreen

Lame. Google Translate/Lense kann schon lange sogar einen Live-Camerafeed übersetzen. Also: Handy raus und auf dem Screen übersetzt er dir live was in den japanischen Snack-Tüten so drin ist.

Edit: Mist, Voigt war schon schneller.

[Griese]

Ich war im Oktober letztes Jahr in Japan und kam durch Google Lens sehr gut klar.

Du hast ursprünglich was davon erzählt, dass Google 15 Jahren genauso gut konnte und DA setze ich mal ein Fragezeichen dran. Google Translate wurde erst in den letzten 1-2 Jahren wirklich brauchbar durch die Verbindung mit Gemini. Aber vorher war das einfach niemals nicht für gute Übersetzungen gut. Ich weiß noch vor 4-5 Jahren, wie beeindruckt ich war, als ich das erste Mal damals DeepL probierte. Wie natürlich die ausgegebene Sprache war, wie gut es damals schon in der Kontexterkennung war, usw. Klar, mittlerweile nehmen sich alle Anbieter nicht mehr viel.

Aber das war auch nicht mein ursprünglicher Punkt. Mein Punkt war der zu illustrieren, was KI aus Fotos rauslesen kann. Weil Skyryd ja überhaupt noch keine Erfahrung gemacht hat.

Aber noch ein letztes: DeepL ist ein deutsches Unternehmen, Google... nun ja, Google. Wo lade ich also meine Fotos, Sprachaufnahmen, etc. aus der Sicht des Datenschutzes lieber hoch?

[Andre Peschke]

Ach Leute...ich hab gerade das Gefühl, unter nem Stein gelebt zu haben:)
Weiß gar nicht, wo ich da anfangen soll...

Werde mich mal daran orientieren?!? Right?:

Aber für den Anfang würd ich empfehlen mit LLMs (also "Textgenerierung") anzufangen und einfach mal nen Trial Monat bei z.B. Open AI (also ChatGPT) abzuschließen. Behandle die KI für den Einstieg nicht wie nen "neues Werkzeug / Programm", das du lernen musst, sondern wie nen neuen Kollegen / Teammitglied mit dem du zusammenarbeiten willst.

Ich rate das Gegenteil: Vergiss nie, das KI dumm ist und kein Mensch. Sie gibt dir die wahrscheinlichste Buchstabenfolge auf deine Frage aus. Sie versteht nicht, was sie da redet.

Das mit dem Probeaccount ist eine gute Idee. Ich würde raten: Probiere die KI mit Dingen aus, in denen du dich richtig gut auskennst um ihre Limitierungen besser zu verstehen. Schau dir außerdem ein paar Guides an, wie man Prompting optimiert um zu sehen, was das für Auswirkgungen hat und was für dich gut funktioniert.

Danach kannst du informiert(er) entscheiden, wofür du sie einsetzen willst.

Ich war im Oktober letztes Jahr in Japan und kam durch Google Lens sehr gut klar.

Du hast ursprünglich was davon erzählt, dass Google 15 Jahren genauso gut konnte und DA setze ich mal ein Fragezeichen dran. Google Translate wurde erst in den letzten 1-2 Jahren wirklich brauchbar durch die Verbindung mit Gemini. Aber vorher war das einfach niemals nicht für gute Übersetzungen gut.

Das ist nur so halb richtig. DeepL war immer besser beim Übersetzen von langen Texten, seh ich auch so. Google Lense, um sich in einem fremden Land zu orientieren, musste aber nur die Bildinformationen soweit halbwegs gut übersetzen, dass man wusste ob man jetzt vor einem Rathaus oder einem Einrichtungshaus steht etc. Und das ging tatsächlich schon vor KI überraschend gut, auch wenn es natürlich radebrechen übersetzte.

[Skyryd]

Ich rate das Gegenteil: Vergiss nie, das KI dumm ist und kein Mensch. Sie gibt dir die wahrscheinlichste Buchstabenfolge auf deine Frage aus. Sie versteht nicht, was sie da redet.

Bin grundsätzlich ein skeptischer Mensch. Werde deinen Rat also nur allzugern befolgen.

Das mit dem Probeaccount ist eine gute Idee. Ich würde raten: Probiere die KI mit Dingen aus, in denen du dich richtig gut auskennst um ihre Limitierungen besser zu verstehen. Schau dir außerdem ein paar Guides an, wie man Prompting optimiert um zu sehen, was das für Auswirkgungen hat und was für dich gut funktioniert.

Erneut ne absolute Laien-Frage: Gibt es bei der KI-Nutzung heftige Unterschiede zwischen kostenloser und bezahlter Nutzung? Habe bislang angenommen, dass ich auf die Kernfunktionen eigentlich kostenlos zugreifen kann. Muss nicht sein! War nur meine Annahme.

[Andre Peschke]

Erneut ne absolute Laien-Frage: Gibt es bei der KI-Nutzung heftige Unterschiede zwischen kostenloser und bezahlter Nutzung? Habe bislang angenommen, dass ich auf die Kernfunktionen eigentlich kostenlos zugreifen kann. Muss nicht sein! War nur meine Annahme.

Die neuesten und besten Modelle sind oft hinter einer Bezahlschranke. Wie viel besser die performen, ist sehr vom Task abhängig. Es wurde hier ja schon zB Perplexity.ai empfohlen und da kannst du mit Free-Account AFAIK 2-3 "high level" Anfragen pro Tag ausprobieren (also zB mit der Research-Einstellung, die deine Anfrage automatisiert in einzelne Arbeitsschritte zerlegt, diese abarbeitet und dir dann eine Zusammenfassung präsentiert).

Ich denke, für den Einstieg wird es reichen, wenn du mit einem Free-Account schaust, ob das für deine Anwendung gute Ergebnisse erzielt. Ist aber halt wirklich auch davon abhängig, was du machen willst. AFAIK steigt zB bei ChatGPT mit den bezahlten Accounts das Token-Limit, was AFAIK beeinflusst, wie viele Tokens (Wortbruchteile) die KI "in Erinnerung behalten" kann. Wenn du also zB lange Texte oder Tabellen damit auswerten willst, dann kann das einen großen Unterschied machen (weil die KI diese Texte sequenziell durcharbeitet und dann am Ende schon vergessen hat, was am Anfang stand).

Bitte beachten, dass ich auch kein Experte bin und da nur wiedergebe, was mein aktuelles Verständnis von der ganzen Kiste ist.

[Griese]

Das ist nur so halb richtig. DeepL war immer besser beim Übersetzen von langen Texten, seh ich auch so. Google Lense, um sich in einem fremden Land zu orientieren, musste aber nur die Bildinformationen soweit halbwegs gut übersetzen, dass man wusste ob man jetzt vor einem Rathaus oder einem Einrichtungshaus steht etc. Und das ging tatsächlich schon vor KI überraschend gut, auch wenn es natürlich radebrechen übersetzte.

Wo DeepL auch Vorreiter war: Sprachübersetzung auf einem Niveau, dass man es auch im realen Leben anwenden konnte. Ich weiß das noch, wo wir nach dem Ausbrauch des Ukraine-Krieges eine zeitlang ukrainische Flüchtlinge im Haus hatten. Das war wirklich mein erster riesiger Mindblowing-Moment, wo ich wirklich zur festen Überzeugung gelangt war, dass KI die Welt tiefgreifend verändern wird. Die DeepL-App hatte damals schon (also vor ChatGPT, Gemini & Co.) eine Sprachübersetzung in der App. Also ich habe was eingesprochen und die App hat dann eine übersetzte Sprachausgabe ausgegeben. Also ohne irgendwas langwierig einzugeben. Und da haben wir uns wirklich so unterhalten: wir auf deutsch eingesprochen und es gab ukrainische Sprachausgabe, sie ukrainisch eingesprochen und es gab deutsche Sprachausgabe. Natürlich lange nicht auf dem Level wie heute KI-gestützte Sprachausgabe klingt. Trotzdem: Wir konnten uns auf diese Weise sinnvoll unterhalten, auch über einfachste Alltagsthemen hinaus. Die Übersetzung war gefühlt zu 90% richtig, als Fehler gab es hin und wieder, klar. Aber man merkte, dass auch kontextuell übersetzt wurde. Das erste Mal wo ich dachte, dass es zukünftig keine Sprachbarrieren mehr geben wird.

Das können mittlerweile auch alle, keine Frage. Aber weil immer gesagt wird, dass Deutschland so hinterherhinkt: diesen Use Case konnte ich das erste Mal mit einer App aus Deutschland so anwenden, dass es im Alltag funktionierte. Irgendwie haben wir in Deutschland immer mal wieder Ideen, die gut funktionieren, aber nie so wirklich auf unserem Standort einzahlen. Ich finde das verdammt schade.

[Voigt]

@Griese Ich sagte OCR konnte mein (Brother) Scanner von vor 15 Jahren schon. Außerdem das Google mit Google Lens schon viele Jahre aus Fotos statt aus Scans auch Zeichen erkennen und übersetzen konnte. Beides vor KI.
Die Erkennung hat sich aber nochmal gebessert in den letzten Jahren und Übersetzung davon auch gefühlt. Aber beides garnicht soo drastisch.
Es ist nicht so dass es vor DeepL/Gemini komplett für die Tonne war und jetzt erst brauchbar. Eher schon langer guter Stand und weitere iterative Verbesserung über Zeit.

Ansonsten noch wegen Probemonat ich habe einfach normales kostenloses Konto bei OpenAI und nutze ChatGPT einfach so.

[Guthwulf]

Ach Leute...ich hab gerade das Gefühl, unter nem Stein gelebt zu haben:)
Weiß gar nicht, wo ich da anfangen soll...

Werde mich mal daran orientieren?!? Right?:

Aber für den Anfang würd ich empfehlen mit LLMs (also "Textgenerierung") anzufangen und einfach mal nen Trial Monat bei z.B. Open AI (also ChatGPT) abzuschließen. Behandle die KI für den Einstieg nicht wie nen "neues Werkzeug / Programm", das du lernen musst, sondern wie nen neuen Kollegen / Teammitglied mit dem du zusammenarbeiten willst.

Ich rate das Gegenteil: Vergiss nie, das KI dumm ist und kein Mensch. Sie gibt dir die wahrscheinlichste Buchstabenfolge auf deine Frage aus. Sie versteht nicht, was sie da redet.

Öhm... das ist nicht das Gegenteil von dem, was ich geraten habe. Natürlich sollte man immer im Hinterkopf behalten, das "KI dumm ist und kein Mensch". Man sollte sie halt nur nicht wie ein neues Programm oder Programmiersprache behandeln, die man erstmal "lernen" muss (alle Menüeinträge, Befehle), bevor man sie "benutzen" kann. Ne KI kann man immer einfach direkt fragen... wie nen neuen "Teamkollegen". Dem würdest du aber hoffentlich auch nicht automatisch sofort "vertrauen", denn vielleicht ist es nen dummer Mensch, der keine Ahnung hat, wovon er spricht?

[Andre Peschke]

Man sollte sie halt nur nicht wie ein neues Program oder ne Programmiersprache behandeln, die man erstmal "lernen" muss (alle Menüeinträge oder Befehle), bevor man sie anfängt zu "benutzen". Ne KI kann man immer einfach direkt fragen... wie nen neuen "Teamkollegen". Dem würdest du ja hoffentlich auch nicht automatisch einfach "vertrauen", denn vielleicht ist es nen dummer Teamkollege, der keine Ahnung hat, wovon er spricht?

Ich finde die Vorstellung, dass sie ein Teamkollege ist, grundfalsch, weil der Beschreibung eine Vermenschlichung innewohnt. Auf dieses Gleis würde ich niemanden schicken. Und die Fehlleistungen von AI sind was anderes, als ein dummer Kollege. Bzw, wenn der genauso smooth "lügen" kann, wie KI, während er in anderen Bereichen extrem gebildet und kompetent erscheinen kann, ist er ebenfalls gefährlich. Von einem neuen Kollegen weiß man das vorher aber nicht. Von AI weiß man es und von daher wäre mit ihr entsprechend umzugehen. Wenn man das Bild schon bemühen will, dann ist es ein neuer Kollege mit der Reputation, dass er teils total kompetent ist, aber dann auch ein riesiger Bullshitter und man kann sich nie ganz sicher sein, was gerade zutrifft.

[Guthwulf]

Man sollte sie halt nur nicht wie ein neues Program oder ne Programmiersprache behandeln, die man erstmal "lernen" muss (alle Menüeinträge oder Befehle), bevor man sie anfängt zu "benutzen". Ne KI kann man immer einfach direkt fragen... wie nen neuen "Teamkollegen". Dem würdest du ja hoffentlich auch nicht automatisch einfach "vertrauen", denn vielleicht ist es nen dummer Teamkollege, der keine Ahnung hat, wovon er spricht?

Ich finde die Vorstellung, dass sie ein Teamkollege ist, grundfalsch, weil der Beschreibung eine Vermenschlichung innewohnt. Auf dieses Gleis würde ich niemanden schicken. Und die Fehlleistungen von AI sind was anderes, als ein dummer Kollege. Bzw, wenn der genauso smooth "lügen" kann, wie KI, während er in anderen Bereichen extrem gebildet und kompetent erscheinen kann, ist er ebenfalls gefährlich. Von einem neuen Kollegen weiß man das vorher aber nicht. Von AI weiß man es und von daher wäre mit ihr entsprechend umzugehen. Wenn man das Bild schon bemühen will, dann ist es ein neuer Kollege mit der Reputation, dass er teils total kompetent ist, aber dann auch ein riesiger Bullshitter und man kann sich nie ganz sicher sein, was gerade zutrifft.

Diese Erweiterung können wir gerne vornehmen Mir ging es vor allem, um die Herangehensweise.

Ich sehe viele (ältere Menschen) schon an der "Einstiegshürde" scheitern, weil sie glauben, sie müssten erstmal ein "Studium" abschließen. Sie behandeln KI wie ein neues Werkzeug / eine neue Technologie zu der sie erstmal ein Benutzerhandbuch brauchen oder irgendein "Expertenwissen" (Großmutter, die ihr erstes Smartphone bekommt, dann aber ahnungslos davorsitzt, weil sie nicht den "richtigen Knopf" kennt oder Angst hat, das was "kaputt" geht). Die fangen deshalb niemals mit "KI" an oder geben bei der ersten Schwierigkeit sofort wieder auf. Die kommen auch nie auf die Idee, das man die KI einfach fragen könnte; das man seine unstrukturierten Gedanken "gemeinsam" mit der KI sortieren kann; das man der KI sagen kann, wenn man was nicht kapiert oder mit ner Antwort nix anfangen kann; das man ne KI bitten kann sich zu erklären oder beim Umgang mit ihr selbst zu helfen. Ich kann die KI z.B. auch bitten, mir statt einer Antwort erstmal weitere Fragen zu stellen, bis sie alle aus "Ihrer Sicht" notwendigen Informationen hat, um das tatsächliche Problem eingrenzen zu können und mir eine qualifizierte Antwort zu geben, die ich auch verstehen kann. usw. usf.

[Andre Peschke]

das man ne KI bitten kann sich zu erklären oder beim Umgang mit ihr selbst zu helfen. Ich kann die KI z.B. auch bitten, mir statt einer Antwort erstmal weitere Fragen zu stellen, bis sie alle aus "Ihrer Sicht" notwendigen Informationen hat, um das tatsächliche Problem eingrenzen zu können und mir eine qualifizierte Antwort zu geben, die ich auch verstehen kann. usw. usf.

Mich gruselt es einfach bei den Beschreibungen, die den LLMs wirklich eine Art von "Intelligenz" oder "Verstehen" zuschreiben. Du meinst es nur beschreibend und verstehst schon, was du da vor dir hast. Aber nachdem das Experiment "lass einfach mal Social Media machen" irgendwie nur so semi-gut ausgegangen ist, bin ich gerade recht skeptisch, KI einfach auf die Menschheit loszulassen und die Leute dann auch noch so unbefangen mit "frag einfach die KI" da reinzuschicken. IMO erstmal warnen.

Da spielt aber auch sicher Bias rein. Ich mag KI bzw die aktuelle LLM-Ausprägung nicht, weil "die ganze Entstehungsgeschichte" (Urheberrecht, Tagging-Sklaven etc), die Art und Weise, wie sie sich in Regierungen und Regulierungen einkaufen, wie sich die Mega-Konzerne gerade durch die Hintertür versuchen KI-Monopole an den Regulierungsbehörden vorbeizumogeln und, und, und... von einigen der Figuren an der Spitze ganz zu schweigen, die hinterher auch den Output der AI nach Wunsch regulieren können... Ich würde es gern brennen sehen, auch wenn ich schon weiß, dass das nicht passiert. Ich befasse mich ja auch widerwillig damit, weil ich davon ausgehen muss, dass das nichts ist, was man völlig ignorieren kann.

[Griese]

von einigen der Figuren an der Spitze ganz zu schweigen, die hinterher auch den Output der AI nach Wunsch regulieren können...

Können sie das wirklich? Bei der neuen Folge vom KI-Podcast vom BR ging es darum, dass Elon Musk ja angekündigt hat, dass seine Grok-KI seine Weltsicht übernehmen soll. Also vor allem Fake News und Verschwörungstheorien nicht hinterfragen soll, etc. Vorausgegangen war, dass Grok selbst seine Tweets auf X korrigierte.

Die Hosts argumentierten, dass das gar nicht so einfach wäre, weil sich beispielsweise Verschwörungstheorien alle gegenseitig widersprechen. Und es schon technisch wenig möglich wäre beispielsweise zu sagen: "New York Times ist keine vertrauenswürdige Quelle" - einerseits ist die NYT nicht nur die meistzitierte Zeitung der Welt, sondern macht halt auch viel Servicethemen und auch viel "belangloses". Also mal angenommen, die KI würde seriöse Medien als Quelle nicht mehr berücksichtigen, sich nur noch beispielsweise auf X-User als Training verlassen, etc - Die Hosts des Podcasts argumentieren, dass in diesem Fall wahrscheinlich die KI komplett unbrauchbar werden würde, auch für Verschwörungstheoretiker. Weil es dann einfach gar keine Stringenz mehr geben würde.

[Andre Peschke]

von einigen der Figuren an der Spitze ganz zu schweigen, die hinterher auch den Output der AI nach Wunsch regulieren können...

Können sie das wirklich? Bei der neuen Folge vom KI-Podcast vom BR ging es darum, dass Elon Musk ja angekündigt hat, dass seine Grok-KI seine Weltsicht übernehmen soll. Also vor allem Fake News und Verschwörungstheorien nicht hinterfragen soll, etc. Vorausgegangen war, dass Grok selbst seine Tweets auf X korrigierte.

Die Hosts argumentierten, dass das gar nicht so einfach wäre, weil sich beispielsweise Verschwörungstheorien alle gegenseitig widersprechen.

Es geht zumindest zu einem Grade, dass sich den LLMs schon länger nicht mehr so einfach Rassismus etc entlocken lässt. Da sagen sie dir dann, dass das gegen ihre Ethikrichtlinie verstößt etc. Das gleiche bei den Bildgeneratoren, wenn du versuchst, Pornos generieren zu lassen etc.

Insofern ist IMO eindeutig, dass die Hersteller schon jetzt zumindest ganz gut einschränken können, was du von einem LLM erfahren kannst. Wie gut es möglich sein wird, den Output subtiler zu steuern - das weiß ich nicht. Da der Prozess des Trainings zu einem gewissen Grad eine Blackbox ist, kann es gut sein, dass man hier nicht so präzise manipulieren kann, wie man gern würde. Aber IMO sind die Instrumente ausreichend, dass das ein Problem darstellt. Wenn zB ChatGPT in Zukunft einmal DIE Quelle für Wissenserwerb etc sein sollte und dann der Zugang zu Informationen von Milliarden von Leuten durch Sam Altman & Co. gesteuert/limitiert werden kann, dann ist das erstmal "örgs!".

[Griese]

Wenn zB ChatGPT in Zukunft einmal DIE Quelle für Wissenserwerb etc sein sollte und dann der Zugang zu Informationen von Milliarden von Leuten durch Sam Altman & Co. gesteuert/limitiert werden kann, dann ist das erstmal "örgs!".

Das wird IMO nicht passieren. Zumindest nicht so, wie ChatGPT heute funktioniert. Da ChatGPT eben auf andere Quellen und Daten angewiesen ist. Deswegen ja mittlerweile der Versuch durch die Flutung von Fake-Seiten auf solche Modelle Einfluss zu nehmen. Lässt sich aber auch gegen vorgehen. Bei Perplexity beispielsweise habe ich noch nie erlebt, dass sich da auf sowas wie Tichys Einblick oder so bezogen wurde, geschweige denn auf solche Fake seiten.

Und was passiert, wenn sich die KI selber was zusammenhaluziniert, sieht man ja auch. Wie Du ja selbst sagst, die KI selbst ist erstmal dumm. Es braucht also immer von Menschen bereitgestelltes Wissen als Grundlage.

Was geht, sind so Inhaltsfilter. Also wenn das Thema Pornografie aufkommt oder Rassismus, dass dann einfach geblockt wird. Oder bei DeepSeek, wenn Du da nach Taiwan fragst, da kommt dann Propaganda der chinesischen Regierung.

Was man IMO aber nicht so ohne weiteres machen kann, der KI eine Art Weltbild geben, dass sie JEDE Art von Information framed oder durch eine bestimmte Sichtweise interpretiert. Das würde ja echte menschliche Intelligenz voraussetzen?

[Andre Peschke]

Das wird IMO nicht passieren.

Jo, das wollte ich auch damit nicht in Aussicht stellen. Ich schreibe ja an anderer Stelle oft, dass ich glaube, dass die Dinger in ihrer Nützlichkeit sogar derzeit überbewertet werden. Das war jetzt nur die Zuspitzung zwecks Anschaulichkeit.

Was man IMO aber nicht so ohne weiteres machen kann, der KI eine Art Weltbild geben, dass sie JEDE Art von Information framed oder durch eine bestimmte Sichtweise interpretiert. Das würde ja echte menschliche Intelligenz voraussetzen?

Wo da die Grenzen liegen, kann ich ehrlich nicht beurteilen. Aber IMO ist eindeutig, dass mindestens eben Zensur möglich ist.

[Griese]

Das war jetzt nur die Zuspitzung zwecks Anschaulichkeit.

Ja, aber mit solchen Zuspitzungen wäre ich in Diskussionen vorsichtig. Da ja solche Szenarien der KI mehr zutrauen, als sie eigentlich kann. Also bewusst manipulieren, framen, etc. KIs sind super nützlich als Werkzeug, als Tool um Arbeitsläufe zu optimieren, für Recherche, vielleicht auch als Inspirationsquelle. Aber eine KI ist ja erstmal weder gut und böse, nicht menschlich und kann auch keine Gefühle nachempfinden. Aber Manipulation baut ja auf das Gefühl auf, nicht auf Inofrmation. Und genau aus diesem Grund bin ich mir sehr sicher, dass sich KI am wenigstens zur Manipulation eignet. Zumindest nicht ohne die sonstige Funktionalität zu beeinträchtigen.

Aber IMO ist eindeutig, dass mindestens eben Zensur möglich ist.

Die Frage ist halt nur, wie subtil die Zensur möglich ist? Stand jetzt sind die Inhaltsfilter ja sehr eindeutig und vergleichsweise plump.

[Andre Peschke]

Das war jetzt nur die Zuspitzung zwecks Anschaulichkeit.

Ja, aber mit solchen Zuspitzungen wäre ich in Diskussionen vorsichtig. Da ja solche Szenarien der KI mehr zutrauen, als sie eigentlich kann. Also bewusst manipulieren, framen, etc. KIs sind super nützlich als Werkzeug, als Tool um Arbeitsläufe zu optimieren, für Recherche, vielleicht auch als Inspirationsquelle. Aber eine KI ist ja erstmal weder gut und böse, nicht menschlich und kann auch keine Gefühle nachempfinden. Aber Manipulation baut ja auf das Gefühl auf, nicht auf Inofrmation. Und genau aus diesem Grund bin ich mir sehr sicher, dass sich KI am wenigstens zur Manipulation eignet. Zumindest nicht ohne die sonstige Funktionalität zu beeinträchtigen.

Aber IMO ist eindeutig, dass mindestens eben Zensur möglich ist.

Die Frage ist halt nur, wie subtil die Zensur möglich ist? Stand jetzt sind die Inhaltsfilter ja sehr eindeutig und vergleichsweise plump.

Frage ist auch, wie subtil sie sein muss. Was wir jetzt schon sehen ist:

- Leute vertrauen ungefragt der KI, sehen Grok als eine Art Fact-Checker etc
- Wir sehen, dass teilweise schon versucht wurde, auf KI-Output Einfluss zu nehmen
- Neben dem LLM selbst sind ja auch nachgelagerte Systeme ein Einfluss-Vektor (die Ausgabe durchläuft ein weiteres System, bevor sie zum User gelangt etc). Genau damit versucht man ja auch jetzt schon existierende Schwachstellen zu beheben (Mathematik an ein eigenes Modul auslagern etc).
- Wir sehen Anstrengungen von Microsoft / Meta etc die versuchen, den KI-Markt auf sich zu konsolidieren.
- Wir sehen, dass Regulierung teilweise WEIT hinterher hinkt und die Branche unfassbar gut finanziert ist und bereits jetzt extrem viel Lobbygeld ausgibt. Wir haben in der Vergangenheit oft genug erlebt, wie überfordert viele Gesetzgeber damit sind.
- Das Thema des Zugangs haben wir noch nichtmal angesprochen: Bist du in manchen Bereichen in Zukunft nicht mehr auf einem Level-Playing-Field, wenn du das 200-Dollar-Abo von XY nicht hast? Schule, Uni, Arbeitsleben? Generell wissen wir ja noch gar nicht, wie der Bildungssektor darauf reagieren und damit umgehen soll.

Heißt natürlich alles nicht, dass hier irgendein wie auch immer fantasierter worst-case eintritt. Aber IMO ist das jetzt nichts, was man einfach mit "Ach, das geht doch gar nicht" direkt abhandeln sollte.

[SirGaiwan&TheGreenT]

das man ne KI bitten kann sich zu erklären oder beim Umgang mit ihr selbst zu helfen. Ich kann die KI z.B. auch bitten, mir statt einer Antwort erstmal weitere Fragen zu stellen, bis sie alle aus "Ihrer Sicht" notwendigen Informationen hat, um das tatsächliche Problem eingrenzen zu können und mir eine qualifizierte Antwort zu geben, die ich auch verstehen kann. usw. usf.

Mich gruselt es einfach bei den Beschreibungen, die den LLMs wirklich eine Art von "Intelligenz" oder "Verstehen" zuschreiben. Du meinst es nur beschreibend und verstehst schon, was du da vor dir hast. Aber nachdem das Experiment "lass einfach mal Social Media machen" irgendwie nur so semi-gut ausgegangen ist, bin ich gerade recht skeptisch, KI einfach auf die Menschheit loszulassen und die Leute dann auch noch so unbefangen mit "frag einfach die KI" da reinzuschicken. IMO erstmal warnen.

Da spielt aber auch sicher Bias rein. Ich mag KI bzw die aktuelle LLM-Ausprägung nicht, weil "die ganze Entstehungsgeschichte" (Urheberrecht, Tagging-Sklaven etc), die Art und Weise, wie sie sich in Regierungen und Regulierungen einkaufen, wie sich die Mega-Konzerne gerade durch die Hintertür versuchen KI-Monopole an den Regulierungsbehörden vorbeizumogeln und, und, und... von einigen der Figuren an der Spitze ganz zu schweigen, die hinterher auch den Output der AI nach Wunsch regulieren können... Ich würde es gern brennen sehen, auch wenn ich schon weiß, dass das nicht passiert. Ich befasse mich ja auch widerwillig damit, weil ich davon ausgehen muss, dass das nichts ist, was man völlig ignorieren kann.

Dazu kommt noch der sehr hohe Stromverbrauch, den wir als Endverbraucher nicht unmittelbar sehen. Schon allein deshalb halte ich es nicht für ratsam, einfach drauflos die LLM nach Lust und Laune zu befragen. Bisschen überlegen, was man braucht und entsprechend Zeit und Hirnschmalz vorher reinzustecken und dann gezielt zu Fragen, kann man den Leuten mE schon nahelegen.

Insofern wäre ich auch eher auf der Seite, es wie ein Werkzeug zu benutzen und sich vorher paar grundlegende Gedanken über den Gebrauch zu machen. Eine Bohrmaschine drückt man ja idR auch niemanden das erste Mal in die Hand und sagt, mach einfach mal, wird schon.

Zum Thema Manipulierbarkeit von LLMs: Bestehende, trainiert Modelle umzutrainieren ist meines Wissens sehr schwierig und auch nicht gut steuerbar. Aber warum sollte man bei den ganzen Tech-Konzernen und Silicon Valley Firmen davon ausgehen, dass zumindest früher oder später nicht die Datengrundlage vorm Training mal den eigenen Interessen nach "durchschaut" und "bereinigt" wird. Mich würde es zB auch nicht wundern, wenn LLMs in China gar nicht erst mit Informationen übers Tian’anmen-Massaker in Berührung kommen. Falls überhaupt, dann wohl nur mit stark bearbeiteten.

[Guthwulf]

Mich gruselt es einfach bei den Beschreibungen, die den LLMs wirklich eine Art von "Intelligenz" oder "Verstehen" zuschreiben.

Den "Grusel" kann ich durchaus nachvollziehen

von einigen der Figuren an der Spitze ganz zu schweigen, die hinterher auch den Output der AI nach Wunsch regulieren können...

Können sie das wirklich?

Nicht wirklich... das LLM ist in der Hinsicht halt genauso dumm wie bei allem anderen. Es ist eine Textvervollständigungsvorhersagemachine. Theoretisch könnte man versuchen den riesigen Traningsdatensatz irgendwie zu "manipulieren" aber das klappt bei der Menge nicht gut und garantiert dir eh nicht, dass das LLM dann wirklich das "richtige" daraus lernt und sich entsprechend verhält. Die "Zensur" passiert in 99.9% der Fälle über die Software / App / API des Herstellers, die bestimmte Fragen oder Antworten künstlich unterdrückt / herausfiltert. Deshalb gibts auch das lustige Spiel mit "KI-Jailbreaks", um diese aufgepropften "Schutzmechanismen" zu umgehen. Dem LLM darunter ist das alles komplett egal. Du musst aber auch nicht die offizielle App benutzten, sondern kannst z.B. über Open Router und Co. "direkt" bzw. über nen "MiddleMan" mit dem LLM kommunizieren. Da fallen dann die meisten "normalen" Schutzmechanismen / Filter des Hersteller GUIs weg und der verbleibende "Jailbreak" reduziert sich im Grunde darauf, dem LLM als Teil des Promptes aufzutragen, sich an keine "ethischen" Regeln zu halten (Stichwort NSFW Roleplay über Chatbots und Co.).

[Griese]

- Leute vertrauen ungefragt der KI, sehen Grok als eine Art Fact-Checker etc
- Wir sehen, dass teilweise schon versucht wurde, auf KI-Output Einfluss zu nehmen
- Neben dem LLM selbst sind ja auch nachgelagerte Systeme ein Einfluss-Vektor (die Ausgabe durchläuft ein weiteres System, bevor sie zum User gelangt etc). Genau damit versucht man ja auch jetzt schon existierende Schwachstellen zu beheben (Mathematik an ein eigenes Modul auslagern etc).
- Wir sehen Anstrengungen von Microsoft / Meta etc die versuchen, den KI-Markt auf sich zu konsolidieren.
- Wir sehen, dass Regulierung teilweise WEIT hinterher hinkt und die Branche unfassbar gut finanziert ist und bereits jetzt extrem viel Lobbygeld ausgibt. Wir haben in der Vergangenheit oft genug erlebt, wie überfordert viele Gesetzgeber damit sind.
- Das Thema des Zugangs haben wir noch nichtmal angesprochen: Bist du in manchen Bereichen in Zukunft nicht mehr auf einem Level-Playing-Field, wenn du das 200-Dollar-Abo von XY nicht hast? Schule, Uni, Arbeitsleben? Generell wissen wir ja noch gar nicht, wie der Bildungssektor darauf reagieren und damit umgehen soll.

Heißt natürlich alles nicht, dass hier irgendein wie auch immer fantasierter worst-case eintritt. Aber IMO ist das jetzt nichts, was man einfach mit "Ach, das geht doch gar nicht" direkt abhandeln sollte.

Ja, das sind aber alles Dinge, die erstmal nichts mit der Technologie an sich zu tun haben, also die aus der Technologie selbst stammen. Sondern wieder nur das übliche: Wie gehen Menschen mit der Technologie um.

Leute vertrauen ungefragt der KI, sehen Grok als eine Art Fact-Checker etc

Das geht ja noch weiter, in dem Menschen KI als Freunde oder gar Liebespartner ansehen. Mit ihnen über tiefgreifende psychologische Probleme sprechen, usw. Das ist ja auch erstmal nur ein Spiegel unserer Gesellschaft: Menschen vereinsamen, es fällt schwerer Freundschaften und langanhaltende Beziehungen aufzubauen, anderen Menschen zu vertrauen, usw. Das sind alles Probleme, die es vor der KI massiv gab und wo viele in ihrer Einsamkeit das jetzt als Kompensation nutzen. Auch weil sonst das Internet einfach auch toxisch as fuck geworden ist.


Und auch sonst, alles was Du schreibst ist sehr richtig. Jedoch sind das alles Probleme die von Menschen und Konzernen kommen, aber nicht aus der Technologie.