Feierabendbier: Die KI-Revolution

Alles, was nicht in ein anderes Forum gehört: Hier rein
Forumsregeln
Datenschutzerklärung: https://www.gamespodcast.de/datenschutzerklaerung/
Impressum: https://www.gamespodcast.de/impressum/

Forenregeln und zukünftige Weltverfassung
ART 1: Behandle andere Nutzer mit Respekt.
ART 2: Do NOT piss off the Podcasters

Lies bitte weitere Hinweise hier: viewtopic.php?f=4&t=2789
Antworten
Benutzeravatar
Guthwulf
Beiträge: 3963
Registriert: 20. Dez 2016, 12:41
Wohnort: Berlin

Feierabendbier: Die KI-Revolution

Beitrag von Guthwulf »

Diskussion zur aktuellen Folge: "Die KI-Revolution" (selber noch nicht gehört, aber sehr gespannt, wie Sebastian und Jochen in der Folge dazu stehen). :dance:

Hier ein paar Threads, wo hier im Forum schon mal über diese Themen diskutiert wurde:

- Midjourney Bot (und Stable Diffusion): viewtopic.php?f=5&t=8901
- AI Generated Faces: viewtopic.php?f=5&t=6571
- Spaß mit ChatGPT: viewtopic.php?f=5&t=9405&start=40
- Spielkonzepte mit ChatGPT: viewtopic.php?f=2&t=9572&start=20

Und ein paar kleine Beispiele aus diesen Threads:
Desotho hat geschrieben: 19. Mär 2023, 15:09 Beschreibe den Spielejournalisten Jochen Gebauer, ausgehend von der Prämisse dass die Welt lediglich aus Brot und Kuchen besteht.

Jochen Gebauer ist wie ein leckerer Schokoladenkuchen - süß, aber auch ein wenig bitter. Als Spielejournalist ist er das Brot und die Butter der Branche und hat einen unverwechselbaren Geschmack und Charakter. Seine Meinungen sind wie die verschiedenen Schichten eines Kuchens, manchmal überraschend und manchmal schwer zu verdauen, aber immer von hoher Qualität. Mit seiner scharfen Zunge und seinem umfangreichen Wissen über Videospiele und die Gaming-Industrie ist er ein wahrer Genuss für jeden, der sich für das Thema interessiert. Kurz gesagt, Jochen Gebauer ist der perfekte Mix aus Brot und Kuchen - eine wahre Gaumenfreude für diejenigen, die ihn erleben dürfen.
Bild
Guthwulf hat geschrieben: 3. Mär 2023, 12:51Wie wäre es mit nem "neuen Logo" für Auf Ein Bier?
stil elemente:
SpoilerShow
(masterpiece), professional photography, octane render, hyper realistic - amazing sunlight, Dynamic composition, Photography, Sharp focus, Bokeh

negative prompt:

nrealfixer, nfixer, nartfixer, nsfw, analog style, out of frame, out of shot, child, childlike, clipping, 3d, cartoon, 3dcg, doll, illustration, render, lowres, bad anatomy, bad hands, text, error
(...)

Code: Alles auswählen

combine a beer mug and a microphone in a sci fi setting
Bild

(...)

Code: Alles auswählen

beer mug floating in space, colorful nebula background
Bild
guthwulf04 (Steam), dreosan (PSN), Guthwulf06 (Xbox), Guthwulf16 (Switch: SW-7403-8257-5609)
GLC
Beiträge: 10
Registriert: 3. Feb 2022, 16:18

Re: Feierabendbier: Die KI-Revolution

Beitrag von GLC »

Zu Jochens GO-Beispiel möchte ich ergänzen, dass aktuell unterdurchschnittliche Spieler die stärkste KI zuverlässig besiegen können (https://www.heise.de/news/Sechs-Jahre-n ... 20941.html). Das tut besonders weh wenn man bedenkt, dass AlphaGo uns Menschen völlig neue Herangehensweisen und Strategien offengelegt hat - in einem der ältesten Brettspiele der Welt. Bei KI geht es halt immer zwei Schritte vor und dann wieder einen Schritt zurück. :-)
Benutzeravatar
Jochen Gebauer
Beiträge: 1364
Registriert: 1. Nov 2020, 17:41

Re: Feierabendbier: Die KI-Revolution

Beitrag von Jochen Gebauer »

GLC hat geschrieben: 14. Apr 2023, 14:45 Zu Jochens GO-Beispiel möchte ich ergänzen, dass aktuell unterdurchschnittliche Spieler die stärkste KI zuverlässig besiegen können (https://www.heise.de/news/Sechs-Jahre-n ... 20941.html). Das tut besonders weh wenn man bedenkt, dass AlphaGo uns Menschen völlig neue Herangehensweisen und Strategien offengelegt hat - in einem der ältesten Brettspiele der Welt. Bei KI geht es halt immer zwei Schritte vor und dann wieder einen Schritt zurück. :-)
Guter Hinweis! Aber als Schritt zurück würde ich das ehrlich gesagt nicht bezeichnen. Klar kann man eine KI überlisten, indem man Rahmenbedingungen schafft, für die sie keine Daten hat (vereinfacht gesagt). Aber was sagt das wirklich, außer dass KI Grenzen hat, was meines Wissens nach niemand je bestritten hätte. Und diese Exploits funktionieren ja auch nur, weil man die KI nicht daraus lernen lässt - sonst würden die im Handumdrehen nicht mehr klappen ;)
Benutzeravatar
Oliver Naujoks
Beiträge: 257
Registriert: 12. Dez 2018, 11:09
Wohnort: Zeven
Kontaktdaten:

Re: Feierabendbier: Die KI-Revolution

Beitrag von Oliver Naujoks »

Auch wenn es nur eine Folge in dem Plauder-Feierabendformat war, fand ich die Diskussion zwischen Sebastian und Jochen ausgesprochen interessant. Schon alleine nur die kurzen Schlaglichter darauf, was in Zukunft möglich sein könnte, haben meine Phantasie massiv angeregt. Auch, weil ich mich mit dem Thema noch nicht so ausführlich beschäftigt habe. Nur als Beispiel: Dass ggf. in einem nächsten GTA oder anderen Open World-Spiel die NPCs alle KI-generiert verschieden aussehen und reden könnten - hört sich nach einer Nebensächlichkeit an, wenn man aber bedenkt, was durchaus für ein Immersions-Killer beseitigt würde.. und das ist vermutlich nur der Anfang der Entwicklung. Auch die arbeitstechnischen Ausführungen fand ich hochspannend, u.a. dass sich die Produktionszyklen von Triple-A Spielen wieder verringern könnten. Ja, das wird ggf. Jobs kosten. Meine Hoffnung ist allerdings, dass die KIs die entsprechenden Entwickler nicht nur ersetzen (zu Jobverlusten wird das leider trotzdem sicher führen), sondern ihnen eher als Tool zur Verfügung stehen. Mal sehen.


Nur nebenbei: Etwas unglücklich fand ich Jochens Anmerkungen zum Schach. Da er selbst mal gespielt hat, gehe ich davon aus, dass er es besser weiß, als es sich im Podcast anhörte: Ja, klar, bei der Eröffnungstheorie geht es in der Tat viel um stumpfes Auswendig-Lernen und dann abrufen, aber doch nicht im Mittelspiel. Gemeint hat Jochen vermutlich, dass Großmeister im Mittelspiel aus Erfahrung Stellungen, Positionen u.ä. abrufen können, aber doch nicht einzelne Züge. So klang das ein wenig. Im Mittelspiel beträgt die Anzahl der Möglichkeiten DEUTLICH MEHR als die vermutete Anzahl aller Atome im Universum. Dies dürfte zum Auswendiglernen selbst einen Großmeister überfordern. ;-)
Spielt: Cricket 24, NHL 24, Cyberpunk 2077: Phantom Liberty, Carol Reed 14: The Fall of April, Sherlock (Melbourne House)
Liest: "Und sie rührten an den Schlaf der Welt", C.F. Mahrendorff // "Blue Giant Explorer", Shinichi Ishizuka
GLC
Beiträge: 10
Registriert: 3. Feb 2022, 16:18

Re: Feierabendbier: Die KI-Revolution

Beitrag von GLC »

Jochen Gebauer hat geschrieben: 14. Apr 2023, 14:52
GLC hat geschrieben: 14. Apr 2023, 14:45 Zu Jochens GO-Beispiel möchte ich ergänzen, dass aktuell unterdurchschnittliche Spieler die stärkste KI zuverlässig besiegen können (https://www.heise.de/news/Sechs-Jahre-n ... 20941.html). Das tut besonders weh wenn man bedenkt, dass AlphaGo uns Menschen völlig neue Herangehensweisen und Strategien offengelegt hat - in einem der ältesten Brettspiele der Welt. Bei KI geht es halt immer zwei Schritte vor und dann wieder einen Schritt zurück. :-)
Guter Hinweis! Aber als Schritt zurück würde ich das ehrlich gesagt nicht bezeichnen. Klar kann man eine KI überlisten, indem man Rahmenbedingungen schafft, für die sie keine Daten hat (vereinfacht gesagt). Aber was sagt das wirklich, außer dass KI Grenzen hat, was meines Wissens nach niemand je bestritten hätte. Und diese Exploits funktionieren ja auch nur, weil man die KI nicht daraus lernen lässt - sonst würden die im Handumdrehen nicht mehr klappen ;)
Das stimmt, aber: es ist nach meinem Verständnis gar nicht so einfach, so einen Exploit aus der KI raus zubringen. Bei einem klassischen Programmcode könnte ich mich per Debugger zu konkreten Stelle vorarbeiten und das dann gezielt beheben. Beim Maschinenlernen entstehen neuronale Netze, endlose Kolonnen von Gewichtungen, die kein Schwein auch nur ansatzweise erfassen kann.

Änderungen können nur indirekt erfolgen, insbesondere durch geänderte Trainingsmengen. Wenn wir aber nun die Trainingsmenge um diese Sonderfälle erweitern, führt dies zu Änderungen des vollständigen Netzes - es könnte z.B. sein, dass das System zwar nicht mehr in diese Falle tappt, dafür aber mit anderen Situationen schlechter umgeht. Das meinte ich mit "zwei Schritte vor, einer zurück".

Das sind natürlich alles keine unüberwindbaren Hindernisse, und langfristig bin ich was KI angeht bei dir.
Benutzeravatar
Jochen Gebauer
Beiträge: 1364
Registriert: 1. Nov 2020, 17:41

Re: Feierabendbier: Die KI-Revolution

Beitrag von Jochen Gebauer »

Oliver Naujoks hat geschrieben: 14. Apr 2023, 15:39Nur nebenbei: Etwas unglücklich fand ich Jochens Anmerkungen zum Schach. Da er selbst mal gespielt hat, gehe ich davon aus, dass er es besser weiß, als es sich im Podcast anhörte: Ja, klar, bei der Eröffnungstheorie geht es in der Tat viel um stumpfes Auswendig-Lernen und dann abrufen, aber doch nicht im Mittelspiel.
Doch, natürlich. Selbstverständlich lernt nicht jeder Großmeister jeden möglichen Zug in jeder möglichen Stellung, aber das ist auch gar nicht nötig. Er/sie lernt die besten Züge in einer Reihe von wahrscheinlichen Stellungen anhand der Analyse des Gegners und dessen Spielhistorie. Und dann versucht er/sie eine Stellung zu provozieren, in der er/sie selbst, aber nicht der Gegner die besten Züge kennt. Guck dir mal die Fachkommentare während einer WM-Partie an: Das ist fast nur noch "Engine sagt X, spielt Magnus Carlsen auch X?" Der Sport hat sich durch den Einsatz von KI komplett gewandelt, weil man nun in jeder beliebigen Stellung den objektiv besten Zug durch einen Mausklick herausfindet. Und das wird hart memoriert.
Benutzeravatar
Oliver Naujoks
Beiträge: 257
Registriert: 12. Dez 2018, 11:09
Wohnort: Zeven
Kontaktdaten:

Re: Feierabendbier: Die KI-Revolution

Beitrag von Oliver Naujoks »

Jochen Gebauer hat geschrieben: 14. Apr 2023, 16:14 Doch, natürlich. Selbstverständlich lernt nicht jeder Großmeister jeden möglichen Zug in jeder möglichen Stellung, aber das ist auch gar nicht nötig. Er/sie lernt die besten Züge in einer Reihe von wahrscheinlichen Stellungen anhand der Analyse des Gegners und dessen Spielhistorie. Und dann versucht er/sie eine Stellung zu provozieren, in der er/sie selbst, aber nicht der Gegner die besten Züge kennt.
Yep, so rum stimmt es natürlich. Dann kam es (zumindest für mich) im Podcast nur etwas verkürzt rüber.
Guck dir mal die Fachkommentare während einer WM-Partie an: Das ist fast nur noch "Engine sagt X, spielt Magnus Carlsen auch X?" Der Sport hat sich durch den Einsatz von KI komplett gewandelt, weil man nun in jeder beliebigen Stellung den objektiv besten Zug durch einen Mausklick herausfindet. Und das wird hart memoriert.
Da würde ich widersprechen wollen, weil dafür einfach die Anzahl der Möglichkeiten zu groß ist. Als Großmeister weiß man ja, dass der Gegner mich in gewisse Positionen zwingen will, die ihm liegen, aber nicht mir. Das kann man sich einfach nicht alles merken, da kommt dieses berühmte "positionelle Verständnis" dann ins Spiel, von dem alle GMs immer labern und was für mich wie Magie klingt.

Dass es viel um Wissen abrufen und nicht "nur" um Genialität geht, bestreite ich doch gar nicht. Angeblich sollen einige Großmeister ein 300-Seiten Buch in 1-2 Stunden lesen und dann auswendig runterbeten können. Von Kasparow wurde das z.B. behauptet. Ich kann das immer noch nicht glauben..
Spielt: Cricket 24, NHL 24, Cyberpunk 2077: Phantom Liberty, Carol Reed 14: The Fall of April, Sherlock (Melbourne House)
Liest: "Und sie rührten an den Schlaf der Welt", C.F. Mahrendorff // "Blue Giant Explorer", Shinichi Ishizuka
Komposti
Beiträge: 396
Registriert: 6. Feb 2021, 11:00

Re: Feierabendbier: Die KI-Revolution

Beitrag von Komposti »

Passend zum Thema gerade in meiner Youtube Recommandation aufgetaucht. David Attenborough narriert die Stadien einer Tyranideninvasion in Warhammer 40k. Grandios!
https://youtu.be/X6RCLJ4pDaw
Benutzeravatar
XfrogX
Beiträge: 976
Registriert: 21. Jan 2017, 20:19
Kontaktdaten:

Re: Feierabendbier: Die KI-Revolution

Beitrag von XfrogX »

Zum Thema, man sollte auch vorsichtig sein mit ki.
Hier ein link zu jemanden der versucht hat von Chat gpt antworten zu bekommen die es nicht gibt.

Und Chat gpt hat sehr menschlich gehandelt aber es zeigt das man bei sowas besser trotzdem noch Menschen hat, die wissen was rauskommen sollte und auch nachher mal prüfen.

https://twitter.com/lamahueterin/status ... 2184830978

Daher würde ich sagen bei vielen Sachen wird es sich genau wie in der Industrialisierung so sein das Leute mit ihrem Können was anderes machen und der Output viel höher wird, was dann wieder die Preise senkt oder die Verkaufszahlen bis sich was rechnet senkt.
Gleichzeitig sind die neuen Anforderungen „leichter“ somit wird man auf Dauer Löhne senken können, wenn es nur noch darum geht zu entscheiden ist ein Stil getroffen und die das Ergebnis gut aus, ist das neunmal etwas das man viel leichter lernt, als selber Kunst im passenden Stil schön zu erschaffen.

Auch das ist natürlich dramatisch, wenn es die Leute auch nicht auf die Straße führt, führt es dazu das die Leute weniger verdienen und austauschbarer werden.
BuddyHolly
Beiträge: 13
Registriert: 6. Sep 2018, 21:23

Re: Feierabendbier: Die KI-Revolution

Beitrag von BuddyHolly »

Ich finde es sehr interessant was Sebastian denkt wie langsam sich KI weiterentwickelt.

10 Jahre Teile der Spieleentwicklung von KI... Wenn die Entwicklung in ähnlichem Tempo weiter geht dann sprechen wir in 10 Jahren von einer technischen Singularität.

Aber lustig zu sehen wie er hier das Vorurteil bedient, in Sachsen ist das Internet Neuland.
Benutzeravatar
Jochen Gebauer
Beiträge: 1364
Registriert: 1. Nov 2020, 17:41

Re: Feierabendbier: Die KI-Revolution

Beitrag von Jochen Gebauer »

XfrogX hat geschrieben: 14. Apr 2023, 22:05 Zum Thema, man sollte auch vorsichtig sein mit ki.
Hier ein link zu jemanden der versucht hat von Chat gpt antworten zu bekommen die es nicht gibt.

Und Chat gpt hat sehr menschlich gehandelt aber es zeigt das man bei sowas besser trotzdem noch Menschen hat, die wissen was rauskommen sollte und auch nachher mal prüfen.

https://twitter.com/lamahueterin/status ... 2184830978
Witzig. Ich wurde heute von einem Wissenschaftler angeschrieben, dass ich ChatGPT zu vereinfacht dargestellt habe - was stimmt, wenn ich ehrlich bin. Ich wollte es nicht zu verkopft und kompliziert machen, aber an diesem Punkt hätte ich präziser sein sollen. Ich zitiere ihn einfach mal:

"ChatGPT und seine Leistungsfähigkeit wird von Euch etwas verzerrt dargestellt, was sich auch in anderen Publikationen (Zeit, SPON etc.) immer mal wieder findet: ChatGPT, genauer das aktuelle GPT4.0-Modell wurde nicht als eine Art Maschine erschaffen, um im Chat-Format Weltwissen wiederzugeben. Fragt man es konkret nach Informationen, wie es Jochen darstellt, greift es gerade nicht auf eine Datenbank zurück, sondern die Ausgaben sind Epiphänomene des Modelltrainings"

Das ist auch exakt das Phänomen, das bei der Dame aus dem Twitter-Link zum Tragen kommt. Das Problem ist nicht ChatGPT, sondern der Umstand, dass die gute Frau es benutzt, wie es nicht benutzt werden sollte, weil es dafür nicht konzeptioniert ist. Gewissermaßen gräbt sie mit einem Gewehr nach Öl ;)
Alexandre
Beiträge: 63
Registriert: 1. Sep 2020, 22:48

Re: Feierabendbier: Die KI-Revolution

Beitrag von Alexandre »

"Aus technischer Sicht gibt es keinen Grund warum nicht alles was wir skizziert haben nicht gehen sollte."

Das ist sooooooo süß. Aber es spiegelt imho vor allem unser menschliches Erstauen darüber wider, dass unsere Vorurteile scheinbar(!) kassiert werden.

Sowas wie der uralte Topos: "KI kann nicht kreativ sein!"
Wird scheinbar verletzt durch schöne Bilder aus der Feder einer KI. Aber daran war nichts kreativ, au contraire.

Schon im Rahmen der EDV Revolution wurde gejammert ob der vielen Arbeitsplätze die verloren gehen werden. De facto sind neben einer allgemeinen Steigerung der Produktivität auch neue und "hochwertigere" Arbeitsplätze entstanden.

Banales Beispiel: Schreibe ich eine neue Buchhaltungssoftware angefangen bei null, brauche ich nicht nur Informatiker und Programmierer. Es braucht auch die Bilanzbuchhalter die das Lastenheft erstellen können. Und auf einmal braucht es neue Jobs, wie beispielsweise Wirtschaftsinformatiker, da keine Kommunikation die Informatiker und Buchhalter zusammenbringen kann.

Bezogen auf KI würde ich mit einer Explosion an Jobs rechnen. Die Einen füttern, die Anderen kontrollieren, die Nächsten definieren, dann wieder Kontrollieren, aber nicht auf Funktion sondern Effizienz, dazwischen immer wieder Fehlererkennung die eine KI nicht machen kann, weil sie nicht versteht was Fehler sind, die man vorher nicht definiert hat. Wenn KI-A der KI-B zuarbeiten soll, dann muss das jemand bewerkstelligen und wieder kontrollieren.

Sehr gut gefiehl mir wie Sebastian immer wieder darauf hinwies, wie fehlerbehaftet KI output ist. Als Dialog-Wegclicker sehe ich vielem ja gelassen entgegen, aber wehe einer von euch legt Wert auf gute Dialoge... mir reicht da schon was ChatGPT von sich gibt wenn man es mit Mathematik behelligt. Mal findet es einen Treffer in seinen Daten und mal versteht es die Frage nicht wirklich und seine eigene Antwort überhaupt nicht.
Benutzeravatar
Guthwulf
Beiträge: 3963
Registriert: 20. Dez 2016, 12:41
Wohnort: Berlin

Re: Feierabendbier: Die KI-Revolution

Beitrag von Guthwulf »

Schön, dass ihr auch wenigstens am Rande auf Chancen und Vorteile von KI (auch für "neue Jobs") eingegangen seit. Der Abbau von Einstiegsbarrieren und die "Demokratisierung" von Kunst ist z.B. ein schöner Nebeneeffekt.

Schön, das ihr Go und seine Bedeutung für die KI Forschung erwähnt habt. Bin damals in der Universität über das Themas KI selber auf Go gekommen. Für mich viel "besser" als Schach ;) Vor allem die simple Eleganz (nur 4 Regeln) mit der sich daraus ergebenden so viel größeren Komplexität.
SpoilerShow
1. Beginnend mit Schwarz legen beide Spieler immer abwechselnd einen Stein ihrer Farbe auf das Spielbrett auf die Schnittpunkte der Linien der Feldern (das Standardbrett besteht aus 19x19 Felder und hat damit 361 Schnittpunkte)

2. Wenn ein Stein so gelegt wurde, dass damit ein einzelner oder eine Gruppe von gegnerischen Steinen so umschlossen wurde, dass von diesen keine Linie mehr zu einem freien Schnittpunkte gibt (keine "Freiheiten"), dann gelten diese Steine als "gefangen" und werden vom Spielbrett entfernt.

3. Es ist verboten einen Stein so zu legen, dass eine vorherige Spielsituation auf dem Brett wiederhergestellt würde ("Ko" Regel)

4. Das Spiel endet, wenn beide Spieler hintereinander passen und es gewinnt der Spieler, der in Summe mehr freie Schnittpunkte mit seinen Steinen umschlossen ("kontrolliert") und gegnerische Steine gefangen hat.
Das wars... Musterbeispiel von "einfach zu lernen, schwer zu meistern" ;)

Es gibt auch eine Menge interessante wissenschaftliche Arbeiten darüber, wie sich in Schach und Go wesentliche gesellschaftliche, kulturelle und philosophische Unterschiede zwischen "Westen" (Europa) und "Osten" (Asien) widerspiegeln u.a. auch was Kriegsführung angeht.

Man merkt, fand ich damals total faszinierend. Habe damals auch gerne ein wenig herablassend auf das "langweilige" und "simple" Auswendiglernspiel Schach geguckt ;) Die Arroganz der Jugend :D
Jochen Gebauer hat geschrieben: 14. Apr 2023, 23:45 Witzig. Ich wurde heute von einem Wissenschaftler angeschrieben, dass ich ChatGPT zu vereinfacht dargestellt habe (...) Ich zitiere ihn einfach mal: "ChatGPT und seine Leistungsfähigkeit wird von Euch etwas verzerrt dargestellt, was sich auch in anderen Publikationen (Zeit, SPON etc.) immer mal wieder findet: ChatGPT, genauer das aktuelle GPT4.0-Modell wurde nicht als eine Art Maschine erschaffen, um im Chat-Format Weltwissen wiederzugeben. Fragt man es konkret nach Informationen, wie es Jochen darstellt, greift es gerade nicht auf eine Datenbank zurück, sondern die Ausgaben sind Epiphänomene des Modelltrainings"
Doppelt witzig. Genau darauf wollte ich auch hinweisen. :D Wir müssen vorsichtig sein, dass wir nicht den Eindruck erwecken, diese "KIs" seien einfach effizientere Datenbanken / Suchmaschinen. Gerade das sind sie eben nicht.

Ja, die "KI" hat auf Basis von (vielleicht per copyright geschützten) Daten trainiert, aber nach dem Training hat sie keinen Zugriff mehr auf diese Daten. Sie hat im Training nur Muster "gelernt" (was passt zu was am wahrscheinlichsten) ohne zu "verstehen" was diese bedeuten und ohne das wir noch nachvollziehen können, was genau für Muster sie "gelernt" hat. Deshalb ist es auch so schwierig die Gründe für den Output einer "KI" zu erklären oder vorherzusagen. Es gibt hier keine Bedeutung oder "richtig" und "falsch". Die KI sucht nicht nach einer korrekten Antwort zu einer Frage in einer Datenbank, sondern erzeugt nur ein (aus ihrer Sicht) "wahrscheinliches" Muster (z.B. Text oder Bild), dass zum Input (der Frage) passt. Sie hat in ihrem Training hoffentlich "gelernt", dass auf "2+2=" wahrscheinlich das Zeichen "4" folgen sollte (ohne zu "verstehen" das das eine Mathematikaufgabe ist und sie das Ergebnis berechnen könnte). Aber das erfahren wir erst, wenn wir die Frage stellen. Das erklärt auch Eskapaden wie das Twitterbeispiel oben und warum man diese "KIs" so einfach "austricksen" oder Ihnen "Worte in den Mund" legen kann. Das mag witzig sein, aber die Aufregung darüber (die KI "lügt"!) beruht auf einem falschen Verständnis, was diese "KI" ist.

Das bedeutet übrigens auch: wenn z.B. Midjourney ein Bild erzeugt, dass Ähnlichkeiten zu existierenden Bildern eines Künstlers aufweist, ist das nicht automatisch eine Copyright Verletzung und es wurde für die Erzeugung des Bildes von Midjourney auch nicht auf per Copyright geschütztes Material zugegriffen. Man müsste es ähnlich wie das Bild eines Menschen behandeln. Midjourney macht nämlich eigentlich nix anderes, als was ein menschlicher Maler machen würde, wenn man ihm die gleiche Anforderung gibt. Der ist in seiner "Kunst" genau wie Midjourney beeinflusst von seinem individuell antrainierten Wissen über (per Copyright geschützte) Kunst und hat daraus ein Verständis für "richtiges" Malen entwickelt. Der einzige Unterschied ist, dass Midjourney nicht "versteht", was es malt, sondern nur bedeutungslose Muster erzeugt. Die erwähnten "Epiphänomene des Modelltrainings" ;)
guthwulf04 (Steam), dreosan (PSN), Guthwulf06 (Xbox), Guthwulf16 (Switch: SW-7403-8257-5609)
GoodLord
Beiträge: 1611
Registriert: 11. Jan 2021, 17:10

Re: Feierabendbier: Die KI-Revolution

Beitrag von GoodLord »

Guthwulf hat geschrieben: 15. Apr 2023, 03:15 Wir müssen vorsichtig sein, dass wir nicht den Eindruck erwecken, diese "KIs" seien einfach effizientere Datenbanken / Suchmaschinen. Gerade das sind sie eben nicht.

Ja, die "KI" hat auf Basis von (vielleicht per copyright geschützten) Daten trainiert, aber nach dem Training hat sie keinen Zugriff mehr auf diese Daten. Sie hat im Training nur Muster "gelernt" (was passt zu was am wahrscheinlichsten) ohne zu "verstehen" was diese bedeuten und ohne das wir noch nachvollziehen können, was genau für Muster sie "gelernt" hat.
Man sollte aber umgekehrt auch aufpassen, dass man "diese KIs" nicht mit ChatGPT gleich setzt (Edit: schon klar, dass das hier der Kontext des Posts ist). Nur weil ChatGPT keine Datenbank anzapfen kann gibt's keinen Grund warum einem Nachfolger/ner anderen KI nicht beigebracht werden kann Werkzeuge wie Datenbanken, Google oder Taschenrechner zu verwenden.
Benutzeravatar
Guthwulf
Beiträge: 3963
Registriert: 20. Dez 2016, 12:41
Wohnort: Berlin

Re: Feierabendbier: Die KI-Revolution

Beitrag von Guthwulf »

GoodLord hat geschrieben: 15. Apr 2023, 03:52
Guthwulf hat geschrieben: 15. Apr 2023, 03:15 Wir müssen vorsichtig sein, dass wir nicht den Eindruck erwecken, diese "KIs" seien einfach effizientere Datenbanken / Suchmaschinen. Gerade das sind sie eben nicht.

Ja, die "KI" hat auf Basis von (vielleicht per copyright geschützten) Daten trainiert, aber nach dem Training hat sie keinen Zugriff mehr auf diese Daten. Sie hat im Training nur Muster "gelernt" (was passt zu was am wahrscheinlichsten) ohne zu "verstehen" was diese bedeuten und ohne das wir noch nachvollziehen können, was genau für Muster sie "gelernt" hat.
Man sollte aber umgekehrt auch aufpassen, dass man "diese KIs" nicht mit ChatGPT gleich setzt (Edit: schon klar, dass das hier der Kontext des Posts ist). Nur weil ChatGPT keine Datenbank anzapfen kann gibt's keinen Grund warum einem Nachfolger/ner anderen KI nicht beigebracht werden kann Werkzeuge wie Datenbanken, Google oder Taschenrechner zu verwenden.
Hier im Thread und in der Podcast Folge ging es bisher ausschließlich um Reinforcement Learning (z.B. Alpha Go) und Deep Learning wie bei den Large Language Models und Diffusion Models, die wir als ChatGPT oder Stable Diffusion kennen. "Diese KIs" funktionieren so nun einmal nicht. Klar sind auch andere Arten von spezialisierten KIs vorstellbar (grad bei der absurden Geschwindigkeit in der es hier grad voran geht), aber das sind im Moment die dominierenden Ansätze, über die alle Welt redet und um die es hier bisher ging. Sollten wir einer "KI" beibringen "Werkzeuge wie Datenbanken, Google oder Taschenrechner zu verwenden", gilt mein Satz übrigens trotzdem. Das ist dann auch nicht einfach nur eine "effizientere Datenbank / Suchmaschine". ;)
Zuletzt geändert von Guthwulf am 15. Apr 2023, 11:17, insgesamt 1-mal geändert.
guthwulf04 (Steam), dreosan (PSN), Guthwulf06 (Xbox), Guthwulf16 (Switch: SW-7403-8257-5609)
Benutzeravatar
Heretic
Beiträge: 4944
Registriert: 20. Mai 2016, 13:30

Re: Feierabendbier: Die KI-Revolution

Beitrag von Heretic »

Guthwulf hat geschrieben: 15. Apr 2023, 03:15 Der einzige Unterschied ist, dass Midjourney nicht "versteht", was es malt, sondern nur bedeutungslose Muster erzeugt.
Ich glaube, das trifft auf einige menschliche Künstler auch zu. Ich freu' mich schon auf von einer KI gemalte Kunstwerke, wo dann eine andere KI die passenden tieferen Bedeutungen dazufabuliert. :mrgreen:
Voigt
Beiträge: 5635
Registriert: 14. Jun 2016, 14:43
Wohnort: Jena

Re: Feierabendbier: Die KI-Revolution

Beitrag von Voigt »

Mit Bing AI kann ja ChatGPT schon das Internet durchsuchen für aktuelle Informationen und mit Agents kann es auch Wolfram Alpha zugreifen für Mathe Sachen und auf Midjourney für Bildgenerierung.
Rigolax
Beiträge: 2079
Registriert: 20. Feb 2018, 15:53

Re: Feierabendbier: Die KI-Revolution

Beitrag von Rigolax »

KIs tragen ja offenbar schon dazu bei, zig viele Jobs zu schaffen; hier heißt es sogar, dass "Millionen" für die KI schuften würden: https://netzpolitik.org/2023/datenarbei ... -schuften/ Das ist für uns nur quasi unsichtbar, weil extrem "preiswert" in den Globalen Süden outgesourced.

Ich sehe es eher pessimistisch, ich sehe durch KIs einen Trend der Digitalisierung verstärkt, der die soziale Schere eher noch weiter auseinandertreibt, eher Jobs vernichtet (bei uns). Digitalisierung tendiert m.E. ökonomisch zu einem "winner takes it all", ist in gewisser Weise turbokapitalistisch, was vor allem an der Ortsungebundenheit liegt. Man sieht es tendenziell an den Big-Tech-Entlassungen aktuell: Anscheinend hatten die meisten Firmen wohl mehr Leute angestellt, als sie wirklich brauchten, die waren teils wohl vor allem oder gar nur dabei, um die Konkurrenz zu blockieren, indem sie eben nicht mehr auf dem Arbeitsmarkt verfügbar waren. Wenn man solche Firmen aber ggf. mit nur einem Bruchteil der Leute betreiben kann und die trotzdem stabil Rekordprofite einfahren, Selbstläufer sind (vgl. extrem etwa Valve), bei wem bleibt dann die Kohle hängen, vor allem an Shareholdern (außer sie sind privat wie Valve). Ich sehe das eher pessimistisch, nämlich dass KI zu einer Pauperisierung beitragen wird und wir sogar auf eine Dienstleistungsgesellschaft hinauslaufen könnten, in der wenige Besitzende über den großen Rest quasi "verfügen" können bzw. auch dieser Rest vom Wohlwollen, der Willkür des Staates (oder gar NGOs) abhängig ist, etwa durch ein bedingungsloses Grundeinkommen (Open AI hat ja sogar schon Pläne für so etwas im Notfall...)[1]. -- Aber sicher ist das nicht, vielleicht ist die KI-Entwicklung schon annährend auf einem Plateau. Ich will auch nicht sagen, dass man es stoppen kann oder es versuchen sollte, das ist glaube ich fruchtlos. Vermutlich wird's ganz long term sogar gut, vielleicht funktioniert sogar doch Akzelerationismus und könnte auch die Klimakatastrophe abwenden. Ich befürchte nur, unsere Generation könnte ziemlich am Arsch sein. :ugly:

[1] https://openai.com/blog/planning-for-agi-and-beyond "We have a nonprofit that governs us and lets us operate for the good of humanity (and can override any for-profit interests), including letting us do things like cancel our equity obligations to shareholders if needed for safety and sponsor the world’s most comprehensive UBI [universal basic income] experiment."
Benutzeravatar
XfrogX
Beiträge: 976
Registriert: 21. Jan 2017, 20:19
Kontaktdaten:

Re: Feierabendbier: Die KI-Revolution

Beitrag von XfrogX »

Auch zu dem Thema, wie schlimm es ist das ki geschützte Werke zum trainieren benutzt hab ich letzten was im Internet gefunden. Ein YouTube Video https://youtu.be/rswxcDyotXA
Der ganze Kanal will glaube ich eigentlich immer nur sagen, alles was wir machen ist ein Remix. Der Mensch schaut sich immer Sachen ab und macht sie nach um dann was eigenes zu haben weil er gewisse Sachen ändert.

Und genau das macht die ki auch. Nur halt viel viel schneller und in gezielten Bereichen sehr viel umfassender.

Und was vielleicht mit meiner blase zusammenhängt, viele der Leute die sich darüber aufregen das ki mit ihren Daten lernt, sind selber welche die eher andere Sachen nach machen, oder zumindest so angefangen haben.
Vielleicht haben aber auch diese Leute genau deswegen mehr Angst dafür, als die wo man mehr eigenes erkennen glaubt.

Auch schön ist zu Sebastians man muss ja gucken das bei der ki hinterher immer was raus kommt das zusammen passt. Auf YouTube haben welche einen Anime geschaffen ohne selber das zu zeichnen. Sie haben das ganze als Film aufgenommen und durch eine ki die sie selbst trainiert haben und einige Filter sowie Effekt daraus dann einen Anime machen lassen.

Man erkennt die Schwächen, aber das Ganze ist ja auch ein sehr kleines einfaches Projekt. Aber dadurch zeigt es ja auch Jochen seinen Wunsch das man so kleinere kreative Leute dazu bekommt Sachen zu erschaffen die sie sonst nicht machen könnten. https://youtu.be/ljBSmQdL_Ow

Find das ganze sehr spannend, gerade weil ich so vor einem Jahr oder so noch der Meinung war sowas liegt ewig in der Zukunft.

Doch es wird sicherlich viele aktuelle Stellen kosten, und ob dem Menschen genug Zeit bleibt was neues zu finden wird das große Problem. Weil auch wenn man dann mehr spiele macht und jedes dann ein paar Leute braucht für die ki zu trainieren, füttern, prüfen … und jedes Spiel durch weniger Personal und schneller Entwicklung weniger Käufer braucht. Haben wir ja heute schon das Problem, die Menschen haben nicht genug Zeit um diese Medien überhaupt zu konsumieren. Das ist gerade in der kreativen Bereichen ein großes Problem.

Aber es gibt ja auch nicht umsonst aktuell mehr Forderungen nach 4 Tage Wochen, weniger Stunden als in den letzten Jahrzehnten. Und das wir mehr Familie haben, oder alles so umständlich ist das uns die Zeit mehr fehlt als früher ist ja nicht so.

Es bleibt also spannend.
Irgendwer Anders
Beiträge: 97
Registriert: 7. Jan 2018, 21:50

Re: Feierabendbier: Die KI-Revolution

Beitrag von Irgendwer Anders »

Bezüglich Sebastians Eintieg: Ich find's ganz amüsant, dass alles nach mehr Digitalisierung schreit und auf die deutsche Bürokratie mit ihrer Verhaftung im Analogen stets eingedroschen wird, gleichzeitig aber in schöner Regelmäßigkeit Möglichkeiten zur digitalen Fälschung vorgestellt werden. Wenn man dann in zehn oder 20 Jahren an dem Punkt ist, dass man nicht mehr erkennen kann, ob das Telefonat oder die Videokonferenz tatsächlich mit der*m Chefeinkäufer*in des potenziellen Kunden stattgefunden hat oder man gerade dabei ist, der nächsten Generation Online-Scammer auf den Leim zu gehen, werden Treffen von Angesicht zu Angesicht wieder essenziell werden. Dann können wir uns in Deutschland hinstellen und sagen: "Ha, wir haben uns der Digitalisierung so lange widersetzt, dass wir inzwischen wieder oben auf dem Rad sitzen!"
Rigolax hat geschrieben: 15. Apr 2023, 13:48 Ich sehe das eher pessimistisch, nämlich dass KI zu einer Pauperisierung beitragen wird und wir sogar auf eine Dienstleistungsgesellschaft hinauslaufen könnten, in der wenige Besitzende über den großen Rest quasi "verfügen" können bzw. auch dieser Rest vom Wohlwollen, der Willkür des Staates (oder gar NGOs) abhängig ist, etwa durch ein bedingungsloses Grundeinkommen (Open AI hat ja sogar schon Pläne für so etwas im Notfall...)[1].
Ja, das denke ich auch. Ich frage mich, ob die ganzen Kolumnisten*innen, Experten*innen und wer sonst noch alles so zu Wort kommt, die seit Jahren propagieren, Automatisierung und Digitalisierung würden uns allen mehr Freizeit schenken, das tatsächlich glauben oder im vollen Bewusstsein neoliberale Propaganda verbreiten. Vielmehr wird es so sein, dass nur noch ein kleiner Teil der heutzutage als arbeitende Bevölkerung Klassifizierten überhaupt arbeiten darf. Der Rest kann sich um die metaphorischen Reste prügeln, die vom Tisch der Wohlhabenden herunterfallen.

Was OpenAI sich da auf die Fahnen schreibt, ist doch den Speicherplatz nicht wert, den es auf dem Server belegt. Sobald für die Federführenden die richtig großen Summen im zwei- oder dreistelligen Milliardenbereich im Raum stehen, sind solche angeblichen Prinzipien schneller das Klo runtergespült, als man "Ethikrat" sagen kann.
Antworten