Künstliche Intelligenz - Der KI Thread

[Freddie]

Wenn es die Weltherraschaft an sich reisst wirst Du vermutlich nicht getötet werden sondern darfst als Sklave weiterleben.

Roko's Sklavilisk!

Spannender Gedanke. Aber wenn die Prämisse so stimmt, dann kann der Forderung nicht widersprochen werden finde ich.

Nur stimmt die Prämisse halt (noch?) nicht.

https://www.nature.com/articles/s41746- ... hatgpt.com

Puh, hab angefangen, ist mir dann aber doch zu viel. Ok, sagen wir, die KI ist (noch) nicht soweit. Sie wird bald soweit sein. Und was machen wir dann? Es wäre dann ja nicht vertretbar, wenn wir zögern.

[Andre Peschke]

Sie wird bald soweit sein.

Das wissen wir schlicht nicht. Kann sein, KI kommt da hin. Tatsächlich ist erstmal wahrscheinlicher (ok, das ist auch too much, sagen wir: genauso wahrscheinlich), dass sie es nicht schafft bzw. nur in spezifisch abgegrenzten Gebieten. Und sie wird alle Sonderfälle, für die weniger Trainingsdaten vorliegen, dann schlechter diagnostizieren.

Nehmen wir mal an, sie wäre tatsächlich irgendwann nachweislich besser: Dann kann man für diesen isolierten Fall ("wir retten mehr Leben, wenn wir das eine AI auswerten (und dann von einem Menschen gegenprüfen) lassen") natürlich schon sagen, der Einsatz von AI ist moralisch korrekt. Vielleicht sogar, wenn dafür die Daten von Patienten ohne deren direktes Einverständnis (anonymisiert) reingefüttert wurden.

Und da wäre ich dann auch dafür. Ich bin ja nicht gegen KI per se, sondern gegen unregulierte KI (aka: den jetzigen Zustand). Und hier müsste es natürlich strenge Zulassungsregularien geben und ebenso strenge Regularien für den Umgang mit Trainingsdaten etc.

Ich hätte auch nichts gegen die Bildgeneratoren, wenn die ihre Trainingsdaten lizenzieren müssten. Im Gegenteil, die Tech an sich finde ich total faszinierend.

[Guthwulf]

Ich würde halt sagen, ein Verständnis setzt ein persistentes Konzept voraus, aus dem ein logischer Rückschluss abgeleitet wird. Also: Ich erkenne auch als Mensch das Muster, aber ich habe dann mein Wissen, mein Weltverständnis etc mit dem ich das einordne und damit kann ich den Satz korrekt dechiffrieren und danach weiß ich auch fortwährend sicher, was gemeint war (wenn wir jetzt mal von einem eindeutigen Satz ausgehen). Und ein LLM "versteht" das halt nicht in dieser Art und Weise.

Ist das so? Oder überschätzt du da grad vielleicht das menschliche Gehirn in seiner Funktionsweise? Sind "persistence, consciousness or free will" nicht eh nur eine "illusion" (je nachdem welcher wissenschaftlichen Theorie man folgen möchte)? Ist unser "Selbstverständnis" und "Reasoning" nicht auch "nur" ein generiertes Konstrukt? Klar funktionieren LLMs anders als menschliches Denken und haben noch recht offensichtliche Limitierung (die sie vielleicht auch nie loswerden in ihrer jetzten Form). Wie auch immer du hier "Verständnis" definieren willst, ich wäre trotzdem vorsichtig eins "über" das andere zu stellen. Bei beiden verstehen wir noch nicht vollständig, wieso sie am Ende so funktionieren wie sie funktionieren. Ein LLM ist kein "Algorithmus" den ich danach "zurückrechnen" und "erklären" kann. Es ist auch kein Computerprogramm, das einen Input in einer durch uns nachvollziehbaren "vorprogrammierten" Weise zu einem Output verarbeitet. Man sollte natürlich vorsichtig sein, LLMs nicht zu viel "Menschlichkeit" zuzuschreiben, aber man sollte sie umgedreht auch nicht unterschätzen.

In the thought experiment, Searle imagines a person who does not understand Chinese isolated in a room with a book containing detailed instructions for manipulating Chinese symbols. When Chinese text is passed into the room, the person follows the book's instructions to produce Chinese symbols that, to fluent Chinese speakers outside the room, appear to be appropriate responses. According to Searle, the person is just following syntactic rules without semantic comprehension, and neither the human nor the room as a whole understands Chinese. He contends that when computers execute programs, they are similarly just applying syntactic rules without any real understanding or thinking.

(Fettschrift von mir.)

Das trifft halt so schon ganz gut die Funktionsweise der LLM, es wird Text produziert der aussieht wie eine Antwort, aber nicht weil das LLM ein inherentes Verständnis der Frage, der Antwort oder des zugehörigen Wissens hat.

Woher nehmen wir die Sicherheit, das das bei unserem Gehirn so viel anders ist? Was ist überhaupt "real understanding" oder "thinking"? Siehe auch die ganze Kritik an dem Gedankenexperiment. Ich hab da natürlich keine Antwort drauf, aber ich bin genau deshalb sehr vorsichtig mit meinen eigenen Schlüssen.

[Guthwulf]

Ich bin ja nicht gegen KI per se, sondern gegen unregulierte KI

Dem Sentiment kann ich komplett zustimmen, nur ist meine Zuversicht an eine realistische Lösung eher eingeschränkt. Wenn ich mir so die menschliche Geschichte angucke, dann wurden wir bisher (siehe z.B. Industrialisierung, Miniaturisierung, Internet, Social Media) immer erstmal komplett unvorbereitet überrollt und die Gesellschaft komplett umkrempelt bevor jemand anfing, über sowas wie notwendige bessere Regulierung nachzudenken oder diese einzuführen. Und heute in unserer ultra kapitalistischen wettbewerbsorientierten global vernetzten Gesellschaft, dürfte das schwer denn je sein.

[Andre Peschke]

Ist das so? Oder überschätzt du da grad vielleicht das menschliche Gehirn in seiner Funktionsweise? Sind "persistence, consciousness or free will" nicht eh nur eine "illusion" (je nachdem welcher wissenschaftlichen Theorie man folgen möchte)?
[...]

Ich hab da natürlich keine Antwort drauf, aber ich bin genau deshalb sehr vorsichtig mit meinen eigenen Schlüssen.

Ich schrieb das doch bereits:

Also, ich seh schon, dass das debattierbar ist, will ich damit sagen. Für mich fühlt sich der Begriff falsch an, ausgehend von meinem Verständnis, was da passiert. Aber kann sein, mein Verständnis ist zu dünn was LLMs angeht oder was vergleichbare Abläufe beim Menschen angeht oder mein Verständnis vom Begriff "Verständnis" ist zu eng etc pp.

Ich habe zu beiden Bereichen eine Laienmeinung. Sobald überzeugende neue Fakten reinkommen, werde ich die anpassen. Nach meinem aktuellen Stand, finde ich es unpassend.

Ich bin ja nicht gegen KI per se, sondern gegen unregulierte KI

Dem Sentiment kann ich komplett zustimmen, nur ist meine Zuversicht an eine realistische Lösung eher eingeschränkt. Wenn ich mir so die menschliche Geschichte angucke, dann wurden wir bisher (siehe z.B. Industrialisierung, Miniaturisierung, Internet, Social Media) immer erstmal komplett unvorbereitet überrollt und die Gesellschaft komplett umkrempelt bevor jemand anfing, über sowas wie notwendige bessere Regulierung nachzudenken oder diese einzuführen. Und heute in unserer ultra kapitalistischen wettbewerbsorientierten global vernetzten Gesellschaft, dürfte das schwer denn je sein.

Jo, sehe ich genauso und deswegen hasse ich KI aktuelle unterschwellig, auch wenn mich das ganze technisch fasziniert und ich durchaus die positiven Seiten der Anwendung sehen kann. Es ist verbunden mit zu viel Blauäugigkeit, Rücksichtslosigkeit, Unfairness...

[Guthwulf]

Ich schrieb das doch bereits:

Ich weiß, wollte den Gedanken nur nochmal aufnehmen. War nicht als explizierter Widerspruch gedacht

Ich habe zu beiden Bereichen eine Laienmeinung.

Ich auch

EDIT:

Jo, sehe ich genauso und deswegen hasse ich KI aktuelle unterschwellig, auch wenn mich das ganze technisch fasziniert und ich durchaus die positiven Seiten der Anwendung sehen kann. Es ist verbunden mit zu viel Blauäugigkeit, Rücksichtslosigkeit, Unfairness...

Und ich falle vermutlich eher auf die "fasziniert" Seite auch wenn ich durchaus die negativen Seiten und Risiken sehen kann. Ich würde (insb. wenn ich sehe wie "toll" die Welt grad ist) vermutlich lieber auf den roten Knopf drücken und gucken was passiert, als vorher alle denkbaren Vorsichtsmaßnahmen zu treffen

EDIT2: Passt nicht zu unserer Diskussion grad, aber ich fand den Live Stream interessant: Doctors Vs AI : Can Chat GPT Replace Your Therapist?

[Rane]

Woher nehmen wir die Sicherheit, das das bei unserem Gehirn so viel anders ist? Was ist überhaupt "real understanding" oder "thinking"? Siehe auch die ganze Kritik an dem Gedankenexperiment. Ich hab da natürlich keine Antwort drauf, aber ich bin genau deshalb sehr vorsichtig mit meinen eigenen Schlüssen.

Die Sicherheit dass es bei unsrem Gehirn nicht auch so ist haben wir natürlich nicht.

Aber weil unser Hirn wie Chinese Room funktioniert und ein LLM auch würde ich das LLM nicht auf das Podest "kann Dinge verstehen" anheben.

Manche Dinge können LLMs (also die Basis-Technologie) auch einfach nicht. Z.b. simple Mathematik.
Da werden natürlich mittlerweile andere Dinge angeschlossen, meines Wissens nach in den obersten (user-nähesten) Layern des Modells, die dann z.B. das Muster einer Rechenaufgabe erkennen und diesen Teil der Anfrage an eine Schnittstelle weiterreichen die das übernimmt.

Der Mensch dagegen lernt einmal das Konzept der Addition und kann dann sowohl 2+2 als auch 34589.3 plus 2342341111.99 rechnen. Er hat verstanden wie es geht.

Jo, sehe ich genauso und deswegen hasse ich KI aktuelle unterschwellig, auch wenn mich das ganze technisch fasziniert und ich durchaus die positiven Seiten der Anwendung sehen kann. Es ist verbunden mit zu viel Blauäugigkeit, Rücksichtslosigkeit, Unfairness...

Bei mir ist es mittlerweile nicht nur unterschwellig, ich finde es ganz furchtbar was da momentan abläuft. Die meisten Szenarien die ich mirausmalen kann sind scheisse:

- Grosse Mengen von natürlichen Ressourcen werden verbraucht um LLMs zu trainieren und am Laufen zu halten ("inference"). Die AI Hype-Men (Sam Altman, Dario Amodei, Satya Nadella und die endlosen News-Outlets die alles was diese Hypemonger rauslassen einfach unhinterfragt weiterpapagein) baumeln die grosse Karotte "Abundance" vor unserer Nase herum. Wenn wir die AI nur gut genug hinbekommen dann wird die technologische Singularität erreicht und wir werden alle happy sein weil die KI das Thema Klima für uns löst... Oder aber die Umwelt ist kaputt weil wir statt richtige Lösungen zu finden all unserere Ressourcen in den Bau und Betrieb einer gigantischen Pachinko-Maschine gesteckt haben die dann doch nur herumhalluziniert.

- AI-Bubble platzt. Es ist jetzt schon so dass es nur ganz wenige Firmen gibt die wirklich Gewinn (nicht Umsatz) mit AI machen. Auch der Platzhirsch OpenAI fährt massiv Minus jeden Monat. ChatGPT etc. sind beliebt weil sie kostenlos sind. Es bröckelt ja jetzt schon mit dem Streit zwischen Microsoft und OpenAI. Der ganze Haufen fällt in sich zusammen und reisst grosse Teile der Tech-Industrie mit sich in den Abgrund, darunter vor allem die Unternehmen die ihr Kerngeschäft so angepasst haben dass es ohne AI-Unterstützung nicht funktioniert.

- AI funktioniert! Aber es ist unter der Kontrolle von Männern wie Sam Altman, Elon Musk und Mark Zuckerberg. Deren Taschen füllen sich noch mehr als sie es eh schon sind. Es wird mal wieder mehr Vermögen in die Kassen von unersättlichen Milliardären hochgetrichtert. Die Schere zwischen Arm und Reich klafft noch weiter auseinander. Dann gibts halt irgendwann Billionäre (Also Trillionaires in Englisch). Das Versprechen der Lösung der großen Probleme der Menschheit wird immer 2-10 Jahre in der Zukunft liegen. Bald haben wir die Klimakrise gelöst. Bald haben wir das Allheilmittel. Bald besiedeln wir den Mars.

Sorry, rant. Ich beschäftige mich grad zu viel mit dem Thema und das musste mal raus.

[Griese]

ChatGPT etc. sind beliebt weil sie kostenlos sind.

Aber doch nicht, wenn Du KI wirklich effektiv nutzen willst? Beim kostenlosen Account von ChatGPT hast Du beispielsweise kein Zugriff auf O3, also das Reasoning Modell. Genau das brauchst Du aber für komplexe Aufgaben, beispielsweise das Erarbeiten von Schichtplänen. Was übrigens mittlerweile jeder in meiner Umgebung so macht, einfach weil es funktioniert und so enorm viel Zeit spart.

Oder wenn Du mit f4 (www.audiotranskription.de) Interviews etc. transkripieren möchtest, dann musst Du dafür auch bezahlen. Übrigens: StayForever nutzt KI mittlerweile um die eigenen Folgen zu transkripieren - was Recherche, aber auch der Barrierefreiheit entgegenkommt.

Ich verstehe ganz allgemein Dein Hass auf die Technik nicht. Klar, den Hass auf die Tech-Milliardäre bin ich bei Dir. Aber es ist ja nicht so, dass es gerade in sehr spezialisierten Anwendungsfällen nicht auch andere Anbieter gibt. Hinter dem eben verlinkten f4 steht übrigens auch eine deutsche Firma...

Ich finde man muss die Diskussion trennen zwischen der Technologie an sich und Konzernen. Ich meine, Du schmeißt deinen Windows-PC doch auch nicht aus dem Fenster, weil Microsoft ne scheiß Firma ist?

[Guthwulf]

Sorry, rant. Ich beschäftige mich grad zu viel mit dem Thema und das musste mal raus.

Was meinst du mit "ich beschäftige mich zu viel mit dem Thema"? Du benutzt KI praktisch oder du liest Artikel / guckst Videos darüber?

[Voigt]

Ich nutzr wie gesagt ChatGPT mit normalen kostenlosen Konto was ich mir damals zum Start angelegt habe.
Ich klicke da auch immer auf das "reasoning" Toggle, und sehe wie da die KI rumdenkt.

[Guthwulf]

ChatGPT etc. sind beliebt weil sie kostenlos sind.

Aber doch nicht, wenn Du KI wirklich effektiv nutzen willst? (...)

Stimmt... die meisten "kostenlosen" Angebote sind bestenfalls zum anfüttern. Die sinnvollen Tools und Modelle gibts in der Regel erst hinter Bezahlschranken. Die wenigsten haben auch genug leistungsstarke Rechner, Modelle selber lokal betreiben zu können. Bei Bildgenerierung klappt das noch halbwegs (Stichwort Stable Diffusion, solange du ne RTX 4080 und aufwärts hast). Aber insb. im Fall von LLMs wirds sehr schnell sehr schwer. Da bist du selbst vom kostenlosen ChatGPT weit weg. Da nehme ich für Custom LLMs (z.B. von huggingface) auch eher sowas wie runpod und miete mir da in ner Cloud nen GPU Cluster mit 148GB VRAM, in den ich ein "ordentliches" LLM (sagen wir 123B parameter oder mehr) in ner ordentlichen Quantization (Q6 oder höher) reinladen und betreiben kann. Das kostet natürlich dann aber erst recht laufende Kosten, die nicht unerheblich sind.

Ich finde man muss die Diskussion trennen zwischen der Technologie an sich und Konzernen. Ich meine, Du schmeißt deinen Windows-PC doch auch nicht aus dem Fenster, weil Microsoft ne scheiß Firma ist?

Oder das China Handy? Ich muss mal eben runter auf die Straße, meinen PC suchen gehen...

Ich nutzr wie gesagt ChatGPT mit normalen kostenlosen Konto was ich mir damals zum Start angelegt habe.
Ich klicke da auch immer auf das "reasoning" Toggle, und sehe wie da die KI rumdenkt.

Also die kostenlose Demo

[Rane]

Sorry, rant. Ich beschäftige mich grad zu viel mit dem Thema und das musste mal raus.

Was meinst du mit "ich beschäftige mich mit"? Du benutzt KI praktisch oder du liest Artikel / guckst Videos darüber?

Beides. In meiner Firma sind wir angehalten AI-Tools einzusetzen. CoPilot-Plugins für unsere IDEs, ein GPT-4-basierter eigener Chatbot (wegen Datenschutz).
Wir haben auch eine kleine Abteilung die da etwas Forschung betreibt (eCommerce-Kram).

Ich will den Tools auch gar nicht komplett die Existenz-Berechtigung absprechen, glaube aber nicht dass es den Preis (also nicht den Preis der Nutzung, sondern den Preis den die Menschheit dafür bezahlt) es wert ist.
Ich würde sagen die IDE-Integration erspart mir mittlerweile einiges an Schreibarbeit und gelegentlich liefern mir die LLMs bessere Antworten als man sie in Stackoverflow oder den offiziellen Dokumentationen (Adobe *hust*) findet.

Ich würde sagen beim Coden bin ich dadurch vielleicht 5-10% schneller als zuvor.

Das ganze Drumherum ist halt schlimm. Der Energie-Verbrauch, der Hype, die unglaublich dummen Aussagen von diversen AI-Jüngern ("people don't enjoy making music"), die Laissez-faire-Attitüde der AI-Firmen zu Copyright, Fair-Use etc., die Instrumentalisierung des Hype um white-collar-Worker unter Druck zu setzen, und so weiter und so fort.

[Griese]

Das ganze Drumherum ist halt schlimm. Der Energie-Verbrauch, der Hype, die unglaublich dummen Aussagen von diversen AI-Jüngern ("people don't enjoy making music"), die Laissez-faire-Attitüde der AI-Firmen zu Copyright, Fair-Use etc., die Instrumentalisierung des Hype um white-collar-Worker unter Druck zu setzen, und so weiter und so fort.

Aber das ist ja so als wenn man von Gamergatern oder irgendwelchen Konzernchefs von EA & Co. auf das Computerspielmedium als solches schließen würde. Mich fuckt das ganze drumherum auch ab und wenn ich etwas wirklich verbieten wollen würde: KI generierte "Musik", Videos, Bilder. Das braucht nun wirklich gar niemand. Und da sind wir dann auch bei den Themen Copyright, etc.

Aber halt als Werkzeug (!) an sich möchte ich KI nicht mehr missen wollen. Sei es für Übersetzung, Korrektur von Texten, Erledigung von komplexeren Aufgaben, usw usf. Das spart mir im täglichen Alltag einfach so verdammt viel Zeit...

[Rane]

ChatGPT etc. sind beliebt weil sie kostenlos sind.

Aber doch nicht, wenn Du KI wirklich effektiv nutzen willst? Beim kostenlosen Account von ChatGPT hast Du beispielsweise kein Zugriff auf O3, also das Reasoning Modell. Genau das brauchst Du aber für komplexe Aufgaben, beispielsweise das Erarbeiten von Schichtplänen. Was übrigens mittlerweile jeder in meiner Umgebung so macht, einfach weil es funktioniert und so enorm viel Zeit spart.

Oder wenn Du mit f4 (www.audiotranskription.de) Interviews etc. transkripieren möchtest, dann musst Du dafür auch bezahlen. Übrigens: StayForever nutzt KI mittlerweile um die eigenen Folgen zu transkripieren - was Recherche, aber auch der Barrierefreiheit entgegenkommt.

Da ist mir ein Teil meiner Gedanken vom Tisch gefallen. Der Part mit dem "kostenlos" bezieht sich darauf dass die kostenlosen User weder Umsatz noch Profit für OpenAI (etc.) einfahren. Das Produkt ist beliebt und daher in aller Munde, aber wäre es das auch wenn jeder Nutzer zahlen müsste?
Wenn diese Firmen nun wirklich mal Gewinn machen wollen (und das müssen sie irgendwann) dann muss das Zeug monetarisiert werden. Also entweder die Enterprise-Lösungen teurer machen (2x so viel pro Platz-Lizenz? 10x so viel?), dann werden die Firmen geschröpft. Oder die kostenlose Version weiter einschränken. Oder keine kostenlose Version mehr anbieten. Oder die diversen Pro-Versionen teurer machen.
So wie es jetzt gerade läuft wird es auf jeden Fall nicht weitergehen.

Ich verstehe ganz allgemein Dein Hass auf die Technik nicht. Klar, den Hass auf die Tech-Milliardäre bin ich bei Dir. Aber es ist ja nicht so, dass es gerade in sehr spezialisierten Anwendungsfällen nicht auch andere Anbieter gibt. Hinter dem eben verlinkten f4 steht übrigens auch eine deutsche Firma...

Siehe meine Antwort auf Guthwulf, ich spreche der Technologie an sich nicht die Existenzberechtigung ab, meine Kollegen in der Firma machen damit durchaus interessante Dinge (Modelle selbst antrainieren für ganz spezifische Anwendungsfälle / Datensets).
Aber das Allheil-Mittel ist es nicht. Und als solches wird es aber ganz oft behandelt, bzw. Altman & Co gestikulieren immer in Richtung des riesigen Potentials.
Das f4 sehe ich mir mal an, danke dafür!

Ich finde man muss die Diskussion trennen zwischen der Technologie an sich und Konzernen. Ich meine, Du schmeißt deinen Windows-PC doch auch nicht aus dem Fenster, weil Microsoft ne scheiß Firma ist?

... ich werf ihn nicht aus dem Fenster, aber ich bin mittlerweile zumindest zu Apple abgewandert. Windows-PC kommt mir wahrscheinlich kein neuer ins Haus. Je nachdem wie weit sich Apple weiter unbeliebt bei mir macht (Man kann nicht mehr jede Software installieren, Stichpunkt trusted developer) muss ich wahrscheinlich doch irgendwann in die Linux-Frickler-Ecke abwandern.
Microsoft ist auf jeden Fall eine Firma über deren Software ich mich fast täglich auf der Arbeit aufrege (MS Teams).
... aber das ist ein anderes Thema.

[Rane]

Das ganze Drumherum ist halt schlimm. Der Energie-Verbrauch, der Hype, die unglaublich dummen Aussagen von diversen AI-Jüngern ("people don't enjoy making music"), die Laissez-faire-Attitüde der AI-Firmen zu Copyright, Fair-Use etc., die Instrumentalisierung des Hype um white-collar-Worker unter Druck zu setzen, und so weiter und so fort.

Aber das ist ja so als wenn man von Gamergatern oder irgendwelchen Konzernchefs von EA & Co. auf das Computerspielmedium als solches schließen würde. Mich fuckt das ganze drumherum auch ab und wenn ich etwas wirklich verbieten wollen würde: KI generierte "Musik", Videos, Bilder. Das braucht nun wirklich gar niemand. Und da sind wir dann auch bei den Themen Copyright, etc.

Aber halt als Werkzeug (!) an sich möchte ich KI nicht mehr missen wollen. Sei es für Übersetzung, Korrektur von Texten, Erledigung von komplexeren Aufgaben, usw usf. Das spart mir im täglichen Alltag einfach so verdammt viel Zeit...

Den Gamergate-Vergleich gehe ich nicht mit.
Dort war es (meines Wissens nach) eine kleine, laute Minderheit die Probleme gemacht hat wodurch die grosse Mehrheit in den Dreck gezogen wurde.
Ich deute hier aber ganz eindeutig auf die grossen (riesigen).

[Guthwulf]

Sorry, rant. Ich beschäftige mich grad zu viel mit dem Thema und das musste mal raus.

Was meinst du mit "ich beschäftige mich mit"? Du benutzt KI praktisch oder du liest Artikel / guckst Videos darüber?

Beides. In meiner Firma sind wir angehalten AI-Tools einzusetzen. CoPilot-Plugins für unsere IDEs, ein GPT-4-basierter eigener Chatbot (wegen Datenschutz). Wir haben auch eine kleine Abteilung die da etwas Forschung betreibt (eCommerce-Kram). (...) Ich würde sagen die IDE-Integration erspart mir mittlerweile einiges an Schreibarbeit und gelegentlich liefern mir die LLMs bessere Antworten als man sie in Stackoverflow oder den offiziellen Dokumentationen (Adobe *hust*) findet. Ich würde sagen beim Coden bin ich dadurch vielleicht 5-10% schneller als zuvor.

Ah so... das ist aber dann noch ein sehr beschränkter konkreter Einsatzzweck. Kenne natürlich nicht die Plugins für eure IDEs.

Was Programmieren angeht. Hab ich im Grunde seit dem Studium vor 20+ Jahren (jenseits von einfachstes PHP, javascript) nicht mehr gemacht. Ich hatte mich vor nem Monat oder so aber mal ganz doof vor ChatGPT gesetzt und gefragt: "Ich möchte einen Webscraper programmieren, der mir Daten zu aktuellen neuen K-Pop Musikvideos aus dem Netz sammelt und in ein Google Sheet zusammenführt. Wie gehe ich das am besten an?"

Das lief in diesem Fall erschreckend gut mit ChatGPT. Viel besser als erwartet. Ist natürlich auch kein allzu komplexes Problem. Hab ChatGPT mich erst ausfragen lassen, damit es "versteht" auf welchem Skilllevel ich bin. "Wir" haben dann gemeinsam genauer die Anforderungen definiert, nach geeigneten Quellen geguckt (also Webseite, diese dann analysiert) und potentielle Herangehensweisen diskutiert. Dann hat ChatGPT mir "geholfen" die notwendigen Dinge zu installieren (hier z.B. Python und Python hatte ich vorher noch nie selber geschrieben) und "wir" haben den Scraper schrittweise entwickelt, getestet und ausgebaut plus Fehlersuche und -anpassungen. ChatGPT hat sogar geholfen, das mein Webscraper Anti-Bot Sicherheitsmaßnahmen der konkreten Webseiten "umgeht" / "austrickst". Nach 1-2 Stunden lief alles (schön automatisiert) und ich hab sogar verstanden, was genau ich wo, wie und warum gemacht habe. Also eine Menge gelernt. Das hätte ich in der Qualität nicht erwartet. Ohne ChatGPT hätte ich vermutlich auch viel länger gebraucht.

Was ich dabei aber auch festgestellt habe: Nen kompletter Programmieranfänger wäre vermutlich aufgeschmissen gewesen (selbst wenn man ChatGPT bittet, seine Hilfe auf einen kompletten Anfänger auszurichten). Du musst schon ein gewisses Grundverständnis haben und qualifizierte Fragen stellen oder die Antworten von ChatGPT hinterfragen können. Sonst läufst die häufiger in Sackgassen oder auf Irrwege.

EDIT:

KI generierte "Musik", Videos, Bilder. Das braucht nun wirklich gar niemand.

Hey... doch ich "brauch" das

EDIT2:

... ich werf ihn nicht aus dem Fenster, aber ich bin mittlerweile zumindest zu Apple abgewandert. Windows-PC kommt mir wahrscheinlich kein neuer ins Haus.

Dann brauchst du dich aber nicht über böse alles kontrollierende gierige Konzerne beschweren. Apple mit seinem geschlossenen Ökosystem kommt bei mir erst Recht nicht ins Haus. Dann lieber Microsoft (die natürlich auch nicht gut sind).

[tpommer]

Wir sprechen hier ja vielleicht sogar noch über die harmlosere Anwendung, nämlich Chatbots. Wir wissen bereits, das Gesichtserkennung schon vor ChatGPT & Co einen ethnischen Bias hatte, zB. Was, wenn KI im Gesundheitswesen irgendwelche Level-1-Entscheidungen trifft (Antrag ablehnen etc)? Wenn sie in der Strafverfolgung eingesetzt wird. Wenn sie über Kreditvergaben entscheidet. Über Aufenthaltsrecht, Vorstellungsgespräche, über Themensetzung in den Medien...

Ich glaube wir können uns sicher sein, dass es früher oder später Auswüchse in alle Richtungen geben wird - wie immer. Ob uns die Schufa mit AI noch intransparenter ficken wird als in der Vergangenheit wird sich zeigen. Das dürfte sogar für die Ai eine Herausforderung werden.


Ist jetzt keine Entscheidung im gesundheitswesen, aber ich fühlte mich erinnert:
https://www.golem.de/news/autovermietun ... 97566.html
Wobei ich persönlich hier den AI Einsatz gar nicht so schlimm finde, aber dass bei Reklamationen kein Mensch erreichbar war schon. Aber das sind zwei verschiedene Dinge.

Good News everyone! Da gibts noch viel krassere Beispiele und wir müssen gar nicht auf die Zukunft warten. Let's go to the past! When it was a more simple life

Niederländische Regierung tritt zurück: Aus 2021: Hintergrund waren unberechtigte Betrugsvorwürfe gegen Kindergeldempfänger.
https://www.tagesschau.de/ausland/europ ... t-101.html
https://netzpolitik.org/2021/kindergeld ... minierung/

"Die Grundlage dafür war zwar noch keine KI im engeren Sinne, sondern eine Regressionsanalyse mit zahlreichen Variablen – die Auswirkungen waren aber verheerend: Wer einmal als verdächtig galt, wurde systematisch immer wieder überprüft und musste in vielen Fällen sämtliche Beihilfen zurückzahlen und verlor das Anrecht auf weitere Unterstützung."

"Viele der Betroffenen stürzten daraufhin in Armut, einige nahmen sich das Leben. Besonders häufig traf es Menschen mit doppelter Staatsbürgerschaft, etwa aus Marokko, Bulgarien oder der Türkei."

Noch ein Beispiel:
https://algorithmwatch.org/en/algorithm ... tem-italy/
Kurz zusammengefasst: Italien hatte wegen Lehrermangel die Idee, die Bewerbungsprüfung durch Algorithmen zu beschleunigen. Leider war der fehlerhaft und es ist niemandem aufgefallen. Resultat: Jeder noch so qualifizierte Bewerber, der in einem Bewerbungsverfahren gegen den einen Gewinner den Kürzeren gezogen hat, wurde vom Algorithmus so aussortiert, dass er für alle folgenden Verfahren überhaupt nicht mehr in Betracht gezogen wurde.


Der heise-Artikel fasst die Skandale nochmal zusammen.
https://www.heise.de/news/Kuenstliche-I ... 05911.html


Mein Fazit: Das waren Fälle in denen Algorithmen eingesetzt wurden, die noch überschaubar waren.

Die modernen LLMS arbeiten mit Vektorräumen, die aus tausenden Dimensionen bestehen. Menschen beherrschen undgefähr vier (nicht 4000, sondern 4). Naja seien wir ehrlich. Die meisten eher drei.

Deren Entscheidungen sind für uns nicht nachvollziehbar. Noch schlimmer. LLMs sind so designed, dass sie plausible Geschichten erzählen. "Plausibel" ist aber etwas anderes als "wahr". Noch schlimmer: Es liegt in der Natur der Dinge, dass "plausibel" besonders oft für "wahr" gehalten wird.

Daher gibt es schon heute Ethik-Folgeabschätzung für den Einsatz, damit Fälle wie oben gezeigt vermieden werden, z.B.
https://www.cep.eu/fileadmin/user_uploa ... ligenz.pdf


Meine persönliche Philosophie ist bisher, die KI vor allem als Tool für repetetive Aufgaben zu verwenden. Z.B. lasse ich mir lieber Skripte von der KI schreiben, um mit denen etwas zu tun, als es die KI selber tun zu lassen. Gerade im Bereich formaler Sprachen (Programmiersprachen) funktionieren die LLMs dabei ganz hervorragend, weil formale Sprachen einem festen Regelwerk unterliegt. Aber Inhaltlich sind da auch noch Fehler drin und man muss es testen und sie beseitigen.
Themen diskutieren und eigene Aussagen challengen funktioniert mit Chat-GPT auch ziemlich gut im Sinne von Reviews und einer "zweiten Meinung". Schwierig finde ich, damit nach Wissen zu suchen. Das kann klappen. Wenn man mal nach Themen sucht, wo man selbst viel weiß, merkt man aber auch schnell, dass das schief gehen kann. Korrigiert man die KI dann, wird sie ganz unterwürfig, gibt dir recht, nimmt diesen Pfad auf und erklärt dir die Welt mit der gleichen Inbrunst, wie zuvor erneut. Aber das hilft wenig, wenn man selbst der unwissende ist und nach Wissen sucht.

[Guthwulf]

Schwierig finde ich, damit nach Wissen zu suchen.

Schon mal Perplexity probiert? Das ist überraschend gut für Recherchen zu benutzen. Mit nem ChatGPT würde ich das z.B. nicht machen, auch wenn es inzwischen auch einige ganz ordentliche "Research GPTs" geben soll (selber nicht probiert bisher).

Korrigiert man die KI dann, wird sie ganz unterwürfig und gibt dir recht.

Das hat mich anfangs echt genervt. Das kann man ihr aber zum Glück "verbieten" (am besten verbunden mit der Aufforderung, das sie ihren Standpunkt verteidigen, aber ihre Argumente immer mit konkreten Quellen belegen soll). Dann kann man auch schöne Streitgespräche führen, wo sie nicht sofort klein beigibt oder dir die ganze Zeit Honig ums Maul schmiert sondern deine Sichtweise auch mal herausfordert.

[Rane]

Ah so... das ist aber dann noch ein sehr beschränkter konkreter Einsatzzweck. Kenne natürlich nicht die Plugins für eure IDEs.

Och, da ist schon einiges dabei. Github CoPilot ists, mit Zugriff auf verschiedene Modelle (Sonnet 4, Gemini 2.5 Pro (Preview Version), GPT 4.1 und GPT 4o). Mittlerweile auch mit Agent, da bin ich grade etwas am rumexperimentieren.

Was Programmieren angeht. Hab ich im Grunde seit dem Studium vor 20+ Jahren (jenseits von einfachstes PHP, javascript) nicht mehr gemacht. Ich hatte mich vor nem Monat oder so aber mal ganz doof vor ChatGPT gesetzt und gefragt: "Ich möchte einen Webscraper programmieren, der mir Daten zu aktuellen neuen K-Pop Musikvideos aus dem Netz sammelt und in ein Google Sheet zusammenführt. Wie gehe ich das am besten an?"

Das lief in diesem Fall erschreckend gut mit ChatGPT. Viel besser als erwartet. Ist natürlich auch kein allzu komplexes Problem. Hab ChatGPT mich erst ausfragen lassen, damit es "versteht" auf welchem Skilllevel ich bin. "Wir" haben dann gemeinsam genauer die Anforderungen definiert, nach geeigneten Quellen geguckt (also Webseite, diese dann analysiert) und potentielle Herangehensweisen diskutiert. Dann hat ChatGPT mir "geholfen" die notwendigen Dinge zu installieren (hier z.B. Python und Python hatte ich vorher noch nie selber geschrieben) und "wir" haben den Scraper schrittweise entwickelt, getestet und ausgebaut plus Fehlersuche und -anpassungen. ChatGPT hat sogar geholfen, das mein Webscraper Anti-Bot Sicherheitsmaßnahmen der konkreten Webseiten "umgeht" / "austrickst". Nach 1-2 Stunden lief alles (schön automatisiert) und ich hab sogar verstanden, was genau ich wo, wie und warum gemacht habe. Also eine Menge gelernt. Das hätte ich in der Qualität nicht erwartet. Ohne ChatGPT hätte ich vermutlich auch viel länger gebraucht.

Was ich dabei aber auch festgestellt habe: Nen kompletter Programmieranfänger wäre vermutlich aufgeschmissen gewesen (selbst wenn man ChatGPT bittet, seine Hilfe auf einen kompletten Anfänger auszurichten). Du musst schon ein gewisses Grundverständnis haben und qualifizierte Fragen stellen oder die Antworten von ChatGPT hinterfragen können. Sonst läufst die häufiger in Sackgassen oder auf Irrwege.

Jau, also die Faustregel bei uns in der Firma ist aktuell "Neue Sachen bauen geht mit KI einfacher als bestehendes modifizieren".
Microsoft und Google pushen ja gerade ganz stark die interne KI-Nutzung (Bei Google wird angeblich mittlerweile 30% des Code durch AI geschrieben und dann nur noch reviewed). Ich bin mal gespannt ob man da in naher Zukunft irgendwie was mitbekommt bezüglich Code-Qualität und Bugs (Wahrscheinlich nicht, aber es wäre witzig wenn man da mal Statistiken sehen könnte).

... ich werf ihn nicht aus dem Fenster, aber ich bin mittlerweile zumindest zu Apple abgewandert. Windows-PC kommt mir wahrscheinlich kein neuer ins Haus.

Dann brauchst du dich aber nicht über böse alles kontrollierende gierige Konzerne beschweren. Apple mit seinem geschlossenen Ökosystem kommt bei mir erst Recht nicht ins Haus. Dann lieber Microsoft (die natürlich auch nicht gut sind).

Da hast du mein Zitat aber auch schön abgeschnitten. Das Apple-Ökosystem auf dem Desktop ist noch nicht so verschlossen (iPhone etc. fasse ich auch nicht an), aber es zieht sich langsam zusammen (ich kann nicht mehr jede Software via Paket-Manager installieren, was vor wenigen Jahren noch möglich war), weswegen ich ja auch den Weg in die Linux-Welt in Betracht ziehe.

[Guthwulf]

... ich werf ihn nicht aus dem Fenster, aber ich bin mittlerweile zumindest zu Apple abgewandert. Windows-PC kommt mir wahrscheinlich kein neuer ins Haus.

Dann brauchst du dich aber nicht über böse alles kontrollierende gierige Konzerne beschweren. Apple mit seinem geschlossenen Ökosystem kommt bei mir erst Recht nicht ins Haus. Dann lieber Microsoft (die natürlich auch nicht gut sind).

Da hast du mein Zitat aber auch schön abgeschnitten. Das Apple-Ökosystem auf dem Desktop ist noch nicht so verschlossen (iPhone etc. fasse ich auch nicht an), aber es zieht sich langsam zusammen (ich kann nicht mehr jede Software via Paket-Manager installieren, was vor wenigen Jahren noch möglich war), weswegen ich ja auch den Weg in die Linux-Welt in Betracht ziehe.

War auch halb als Spaß gemeint. Als alter Diplom-Informatiker sind Apple Nutzer in meinem Kopf immer noch Hippster mit zu viel Geld aber keine "echten" oder "ernstzunehmenden" IT'ler. Ich weiß, dummes Stereotyp aus der uralten Vergangenheit.