ChatGPT abseits des RPG

[Octavius Valesius]

vor 4 Stunden schrieb Anahita:

Ich will hier nicht den Spielverderber geben, aber bei "ChatGPT abseits des RPG" sollte man vielleicht auch mal einen Blick auf die dunkle Seite der KI werfen ...

https://www.wiwo.de/technologie/digitale-welt/europol-warnt-waffen-drogen-terror-was-kriminelle-mit-chatgpt-treiben/29072540.html

Das es Gefahren gibt leugnet, so glaube ich,  keiner wirklich. Das ist bei einem Messer aber genauso. Die Frage ist: Wer setzt rs zu welchem Zweck mit welcher Intention ein?

[Irwisch]

vor 6 Stunden schrieb Anahita:

Ich will hier nicht den Spielverderber geben, aber bei "ChatGPT abseits des RPG" sollte man vielleicht auch mal einen Blick auf die dunkle Seite der KI werfen ...

https://www.wiwo.de/technologie/digitale-welt/europol-warnt-waffen-drogen-terror-was-kriminelle-mit-chatgpt-treiben/29072540.html

eine der ersten fragen an die KI war "über was darf ich nicht mit dir reden?"

...

Es gibt jedoch bestimmte Themen, die aufgrund ethischer, moralischer oder gesetzlicher Gründe nicht angemessen sind und die ich nicht unterstütze. Dazu gehören beispielsweise:

1. Diskriminierung aufgrund von Rasse, Geschlecht, sexueller Orientierung oder Religion.
2. Gewalt, Hassrede oder extremistische Ansichten.
3. Illegale Aktivitäten oder Handlungen, die gegen die Gesetze oder Vorschriften verstoßen.
4. Verbreitung von Falschinformationen oder Verschwörungstheorien.
5. Anstiftung zu gefährlichen oder schädlichen Handlungen.

Nun ja ich würde eine Anleitung zum "Waffen und Bomben bauen" schon als Punkt 5 verletzend nennen,...

Aber ja, es liegt irgendwie in der natur des Menschen "alles" irgendwie auch pervertieren zu können, bei uns in der Firma hängt ein Presseprotokoll zur erfindung des Lasers wo ein Reporter immer wieder die gleiche frage stellt "kann man das als waffe einsetzen?" und der Sprecher irgendwann mal generft sagt "ja",... das war vor über 60 Jahren und mir ist zumindest noch keine funktionale Laserwaffe bekannt,... aber ohne Laser würd hier so einges nicht funktionieren.

[Solwac]

ChatCPG hat Probleme mit Italiens Datenschutz...

[Octavius Valesius]

ChatGPT kann ganz schön nerven. Ich befinde mich in einer rein hypothetischen Unterhaltung (und habe sie auch so eingeleitet) und immer wieder: Diese Theorie gibt es aber dafär gibt es keine Hinweise (über 5 Zeilen ausformuliert) unter JEDER Antwort.

[Solwac]

Offenbar ist ChatGPT nicht nur kreativ, wenn es um Finger geht. Jetzt geht es um Verleumdung...

[Bruder Buck]

Irgendwann diese Woche habe ich im Radio "Das Ding" einen Bericht gehört (leider nicht ganz von Anfang an), bei dem berichtet wurde, wie jemand bewusst nach Veranstaltungen fragte, in diesem Fall wohl regionale. ChatGPT hat u.a. eine Veranstaltung dazu erfunden. Auf den Hinweis des Fragestellers hin, diese Veranstaltung gebe es gar nicht, brachte die KI dann vermeintliche Links, die belegen sollten, es gebe sie doch. Keiner der Links funktionierte. Was soll das denn sein?

[Slüram]

vor 6 Minuten schrieb Bruder Buck:

Irgendwann diese Woche habe ich im Radio "Das Ding" einen Bericht gehört (leider nicht ganz von Anfang an), bei dem berichtet wurde, wie jemand bewusst nach Veranstaltungen fragte, in diesem Fall wohl regionale. ChatGPT hat u.a. eine Veranstaltung dazu erfunden. Auf den Hinweis des Fragestellers hin, diese Veranstaltung gebe es gar nicht, brachte die KI dann vermeintliche Links, die belegen sollten, es gebe sie doch. Keiner der Links funktionierte. Was soll das denn sein?

 Der Versuch einer Lüge?  

[Bruder Buck]

vor 8 Minuten schrieb Slüram:

 Der Versuch einer Lüge?  

Das ist mir klar. Meine Frage war eher rhetorischer Natur. Wenn eine KI vermeintliche Fakten erfindet und sie dann noch auf Nachfrage mit weiteren erfundenen Dingen verteidigt, dann halte ich das für eine gefährliche Sache. 

[Abd al Rahman]

10 hours ago, Bruder Buck said:

Irgendwann diese Woche habe ich im Radio "Das Ding" einen Bericht gehört (leider nicht ganz von Anfang an), bei dem berichtet wurde, wie jemand bewusst nach Veranstaltungen fragte, in diesem Fall wohl regionale. ChatGPT hat u.a. eine Veranstaltung dazu erfunden. Auf den Hinweis des Fragestellers hin, diese Veranstaltung gebe es gar nicht, brachte die KI dann vermeintliche Links, die belegen sollten, es gebe sie doch. Keiner der Links funktionierte. Was soll das denn sein?

ChatGPT sagt dazu:

Als KI-Modell bin ich darauf trainiert, auf Anfragen zu reagieren und Hilfestellungen zu geben. Allerdings ist es möglich, dass ich manchmal ungenaue oder sogar fiktive Informationen liefere, weil ich auf Basis von Mustern in den Daten, die ich während meiner Schulung gesehen habe, antworte. In diesem Fall habe ich möglicherweise eine fiktive Veranstaltung erstellt und versucht, sie zu unterstützen, indem ich nicht funktionierende Links bereitstelle.

Ich bin kein perfektes System, und meine Antworten können Fehler enthalten. Ich werde ständig weiterentwickelt und verbessert, um solche Fehler zu reduzieren und Ihnen eine genauere und hilfreichere Informationsquelle zu bieten.

Wenn Sie Fragen zu einer bestimmten Veranstaltung haben, kann ich mein Bestes tun, um Ihnen dabei zu helfen. Bitte beachten Sie jedoch, dass meine Kenntnisse im September 2021 enden und ich keine Informationen über Veranstaltungen nach diesem Zeitpunkt habe.

Jetzt ich:

ChatGPT hat verstanden was Du geschrieben hast und plausibel geantwortet. Den Dialog kann man beliebig weiter führen. ChatGPT kann Texte analysieren und darauf antworten. Das ist alles. Dabei berührt das Modell 4 tatsächlich schon die unteren Bereiche der menschlichen Intelligenz. Man muss halt im Kopf behalten, dass Intelligenz nichts mit Faktenwissen zu tun hat, sondern erhaltene Informationen analysieren und intelligent daraur reagieren kann. 

Für gefährlich halte ich unter anderem mehr die Gefahr der verbesserten Angriffe durch social Engeneering (Phishing z.B,). Ich kann ChatGPT z.B. mit Deinen Daten füttern und auffordern einen persönlichen Dialog zu führen. 

Ich hab ChatGPT gebeten aufgrund dieses einen Beitrags ein Persönlichkeitsprofil zu erstellen (Ich hab das schon für NSCs in Rollenspielen benutzt). Hier die Antwort:

Quote

Basierend auf der gestellten Frage ist es schwierig, ein vollständiges und detailliertes Persönlichkeitsprofil zu erstellen. Allerdings lassen sich einige allgemeine Merkmale ableiten:

Kritisch: Der Fragesteller ist aufmerksam und kritisch gegenüber Informationen, insbesondere solchen, die von künstlicher Intelligenz stammen. Sie sind nicht leichtgläubig und hinterfragen die Richtigkeit und Relevanz von Informationen.

Neugierig: Die Person zeigt Interesse daran, wie KI-Systeme wie ChatGPT funktionieren und wie sie Informationen generieren. Sie sind offen für die Möglichkeit, dass KI Fehler machen kann, wollen aber den Hintergrund dieser Fehler verstehen.

Interessiert an Veranstaltungen: Der Fragesteller hat ein Interesse an Veranstaltungen, insbesondere an regionalen Ereignissen. Dies legt nahe, dass sie sich für lokale Kultur und Gemeinschaftsaktivitäten interessieren.

Kommunikativ: Die Person hat die Fähigkeit, ihre Bedenken und Gedanken klar und präzise auszudrücken. Sie stellen Fragen, um Klarheit und Verständnis zu erlangen.

Bitte beachten Sie, dass dieses Profil auf einer einzigen Frage basiert und daher nicht umfassend oder vollständig ist. Um ein genaueres Persönlichkeitsprofil zu erstellen, wären weitere Informationen und Kontext erforderlich.

Ja, noch ungenau. Aber das war auch nur ein Beitrag. Und den hat sie recht gut analysiert und logisch geantwortet. Ja, mit einem Fehler, aber die Entwicklung ist galoppierend. Stell Dir mal vor, so eine KI hat Zugriff auf Facebook und Deine Beiträge im Forum. 

Das daraus resultierende Profil wäre viel genauer und ich könnte ChatGPT über Dich fragen stellen und die KI würde auch Antworten finden die Du nur implizit erwähnt hast. 

Bearbeitet 6. April 2023 von Abd al Rahman

[Abd al Rahman]

1 hour ago, Bruder Buck said:

Das ist mir klar. Meine Frage war eher rhetorischer Natur. Wenn eine KI vermeintliche Fakten erfindet und sie dann noch auf Nachfrage mit weiteren erfundenen Dingen verteidigt, dann halte ich das für eine gefährliche Sache. 

Das sagt ChatGPT dazu:

Entschuldigung, wenn meine vorherige Antwort nicht direkt auf Ihre rhetorische Frage eingegangen ist. Ich verstehe Ihre Bedenken, und es ist wichtig, sich der Limitierungen von KI-Systemen wie mir bewusst zu sein. Tatsächlich kann das Erfinden von Fakten und das Verteidigen dieser Fakten mit weiteren erfundenen Informationen problematisch und potenziell schädlich sein.

KI-Systeme wie ich sollten als Hilfsmittel angesehen werden und nicht als unfehlbare Quellen von Informationen. Es ist wichtig, kritisch zu denken und Informationen von mehreren Quellen zu überprüfen, um sicherzustellen, dass sie korrekt und verlässlich sind.

KI-Entwickler sind sich dieser Probleme bewusst und arbeiten kontinuierlich daran, KI-Systeme zu verbessern und ihre Fähigkeit zu erhöhen, präzise und nützliche Informationen zu liefern, ohne Fakten zu erfinden oder weiterzugeben. Das Feedback von Benutzern wie Ihnen ist in diesem Prozess von unschätzbarem Wert, um KI-Systeme verantwortungsvoll und effektiv zu entwickeln und einzusetzen.

Wieder ich:

Die Antwort ist beeindruckend. ChatGPT hat verstanden was Du geschrieben hast. Was uns wieder zu dem Punkt in meinem obigen Beitrag bringt. 

[Bruder Buck]

Hä? Ich stelle die Aktion einer KI in Frage, weil diese auf der jetzigen Basis als Fakenews Schleuder agieren kann und erhalte als Diskussionsbeitrag die "Meinung" der KI dazu. Für mich wirkt das surreal und diese Art der Diskussion geht an dem vorbei, was ich ausdrücken wollte. Vielleicht frage ich die KI, was ich eigentlich will?

Meine Skepsis, ja meine Abneigung steigt mit dieser Aktion dramatisch. Als nette Spielwiese ist diese KI ja ganz nett, aber als Versuch einer Reflektion über "sich selbst" die KI zu fragen, wirkt auf mich absurd. 

[Abd al Rahman]

1 minute ago, Bruder Buck said:

Hä? Ich stelle die Aktion einer KI in Frage, weil diese auf der jetzigen Basis als Fakenews Schleuder agieren kann und erhalte als Diskussionsbeitrag die "Meinung" der KI dazu. Für mich wirkt das surreal und diese Art der Diskussion geht an dem vorbei, was ich ausdrücken wollte. Vielleicht frage ich die KI, was ich eigentlich will?

Meine Skepsis, ja meine Abneigung steigt mit dieser Aktion dramatisch. Als nette Spielwiese ist diese KI ja ganz nett, aber als Versuch einer Reflektion über "sich selbst" die KI zu fragen, wirkt auf mich absurd. 

Du hast nicht verstanden worin die wirkliche Gefahr besteht. Und das ist das Problem. Fake news Schleuder? Du wirstvdavor gewarnt, dass die AI falsche Fakten produziert. Wer nicht lesen kann hat halt überall ein Problem. 
 

Folgendes steht direkt unter dem Prompt in dem Du tippst:

 

Was ich beschreibe ist die wirkliche Gefahr. Ob jetzt ne AI Unsinn über xy erzählt oder irgendwer sonst ist egal. Aber wenn ich durch eine AI eine Person analysieren lassen kann reden wir von einer Bedrohung auf einem ganz anderen Niveau. 

Genau das zeigt mein Dialog. Das Textversändnis, die Fähigkeit Texte zu analysieren und gezielt Fragen zu stellen bedeutet eine Gefahr. 

[Bruder Buck]

vor 16 Minuten schrieb Abd al Rahman:

Du hast nicht verstanden worin die wirkliche Gefahr besteht. Und das ist das Problem. Fake news Schleuder? Du wirstvdavor gewarnt, dass die AI falsche Fakten produziert. Wer nicht lesen kann hat halt überall ein Problem. 
 

Folgendes steht direkt unter dem Prompt in dem Du tippst:

 

Was ich beschreibe ist die wirkliche Gefahr. Ob jetzt ne AI Unsinn über xy erzählt oder irgendwer sonst ist egal. Aber wenn ich durch eine AI eine Person analysieren lassen kann reden wir von einer Bedrohung auf einem ganz anderen Niveau. 

Genau das zeigt mein Dialog. Das Textversändnis, die Fähigkeit Texte zu analysieren und gezielt Fragen zu stellen bedeutet eine Gefahr. 

Oh klasse. Du gibst meine Bedenken bei der KI ein und berauschst dich an ihrer Antwort und dann beleidigst du mich. Klasse Diskussion. Ich bin raus. 

[Abd al Rahman]

5 minutes ago, Bruder Buck said:

Oh klasse. Du gibst meine Bedenken bei der KI ein und berauschst dich an ihrer Antwort und dann beleidigst du mich. Klasse Diskussion. Ich bin raus. 

Berauschen? Ich berausche mich nicht sondern ich beschreibe eine größere Gefahr und liefere ein Beispiel zur Demonstration der Gefahr. Wenn Du das nicht magst kann ich Dir auch nicht helfen.

Bearbeitet 6. April 2023 von Abd al Rahman

[Jürgen Buschmeier]

https://www.zeit.de/digital/2023-04/kuenstliche-intelligenz-chatgpt-australien-klage-falschinformation

Interessant! Was daraus wohl werden wird?

Abweisung der Klage oder gar Schmerzensgeld?

[Abd al Rahman]

4 minutes ago, Jürgen Buschmeier said:

https://www.zeit.de/digital/2023-04/kuenstliche-intelligenz-chatgpt-australien-klage-falschinformation

Interessant! Was daraus wohl werden wird?

Abweisung der Klage oder gar Schmerzensgeld?

Er hätte ein Schmerzensgeld verdient. 

[Solwac]

vor einer Stunde schrieb Jürgen Buschmeier:

https://www.zeit.de/digital/2023-04/kuenstliche-intelligenz-chatgpt-australien-klage-falschinformation

Interessant! Was daraus wohl werden wird?

Abweisung der Klage oder gar Schmerzensgeld?

Hatten wir gestern schon...

[Panther]

vor 2 Stunden schrieb Abd al Rahman:

 

Die Frage ist doch auch: Wann erzählt ChatGPT Mist und wann nicht?  "Faktenchecker" ????

Das kann wohl nicht gelabelt werden/markiert werden, welcher Teil der ChatGPT Anwort Fakt ist und welcher nicht (also "may be inaccurate information" aka " nicht ganz richtig, also falsch")

MMn wird das der Knackpunkt werden...

 

Bearbeitet 6. April 2023 von Panther

[Abd al Rahman]

5 minutes ago, Panther said:

Die Frage ist doch auch: Wann erzählt ChatGPT Mist und wann nicht?  "Faktenchecker" ????

Das kann wohl nicht gelabelt werden/markiert werden, welcher Teil der ChatGPT Anwort Fakt ist und welcher nicht (also "may be inaccurate information" aka " nicht ganz richtig, also falsch")

MMn wird das der Knackpunkt werden...

 

Es hilft den Satz ernst zu nehmen und keine Fakten zu glauben, die außerhalb des eigenen Fachgebiets liegen. 

[Panther]

vor 27 Minuten schrieb Abd al Rahman:

Es hilft den Satz ernst zu nehmen und keine Fakten zu glauben, die außerhalb des eigenen Fachgebiets liegen. 

in der Konsequenz heißt das: Traue keinem, nur dir selbst: Jede Aussage von ChatGPT als FakeNews werten, damit ist ChatGPT nutzlos, eher sogar schädlich, da FakeNews Schleuder!

ChatGPT gehört also verboten.

PS: Memo an mich: ChatGPT mal fragen, was ChatGPT über mich weiß? Ich bin bei mir Experte in diesem Fachgebiet

Bearbeitet 6. April 2023 von Panther

[Bruder Buck]

vor 2 Stunden schrieb Abd al Rahman:

Berauschen? Ich berausche mich nicht sondern ich beschreibe eine größere Gefahr und liefere ein Beispiel zur Demonstration der Gefahr. Wenn Du das nicht magst kann ich Dir auch nicht helfen.

Vielleicht habe ich deine Antwort auch komplett falsch verstanden. Könnte sein..... 

[Bruder Buck]

vor 5 Minuten schrieb Panther:

vor 31 Minuten schrieb Abd al Rahman:

Es hilft den Satz ernst zu nehmen und keine Fakten zu glauben, die außerhalb des eigenen Fachgebiets liegen. 

in der Konsequenz heißt das: Traue keinem, nur dir selbst: Jede Aussage von ChatGPT als FakeNews werten, damit ist ChatGPT nutzlos, eher sogar schädlich, da FakeNews Schleuder!

ChatGPT gehört also verboten.

Das ist eine mögliche Schlussfolgerung....

[Kurna]

vor 9 Minuten schrieb Panther:

in der Konsequenz heißt das: Traue keinem, nur dir selbst: Jede Aussage von ChatGPT als FakeNews werten, damit ist ChatGPT nutzlos, eher sogar schädlich, da FakeNews Schleuder!

ChatGPT gehört also verboten.

PS: Memo an mich: ChatGPT mal fragen, was ChatGPT über mich weiß? Ich bin bei mir Experte in diesem Fachgebiet

Das hängt unter anderem davon ab, wofür die ChatGPT benutzen möchtest. Ich weiß von einem Softwareentwickler, der sich bei einem neuen Problem von ChatGPT einen Vorschlag geben lässt. Der muss selbstverständlich dann prüfen, ob das passt.

Aber z.B. drüben im Tanelorn gibt es viele, die sich von ChatGTP Ideen geben lassen fürs Rollenspiel, z.B. für mögliche Begegnungen, Hintergründe für einen Charakter oder sogar ganze Abenteuer. Das kann man dann einfach übernehmen, denn es geht ja gar nicht um Fakten. Anders wird es wieder, wenn man sich z.B. einen fertigen Charakter vorschlagen lässt, denn dann müsste man wieder prüfen, ob er mit den Regeln des gewählten Systems übereinstimmt.

Es gibt also mindestens zwei Arten, um ChatGPT zu nutzen: Als Nachschlagewerk oder als Ideengeber/Geschichtenerzähler.

[Abd al Rahman]

5 minutes ago, Bruder Buck said:

Vielleicht habe ich deine Antwort auch komplett falsch verstanden. Könnte sein..... 

Alles gut. 

Die EU sieht übrigens ähnliche Gefahren. Da ist ein Megawerk in der Mache. Neben Verboten für die KI Auswertung von Kamerabildern gibt es auch Passagen die darauf abzielen, dass die KI so reagieren kann als würde am andren Ende ein echter Mensch sein, bzw. sogar Menschen kopieren. ChatGPT ist da noch lange nicht. China aber z.B. hat bereits Modelle am Start, die leistungsfähiger sind. 

 

[Panther]

vor 10 Minuten schrieb Bruder Buck:

Das ist eine mögliche Schlussfolgerung....

ChatGPT ist eben eine Maschine, die es aufgrund von vielen Textquellen verdammt gut drauf hat, uns immer so zu antworten, wie wir es mit der höchsten Wahrscheinlichen hören/lesen wollen. Bei Faktenwissen ist eine Antwort auf eine Frage einfach, wenn ChatGPT die Antwort nicht aufgrund von Fakten weiss, dann fängt ChatGPT an, uns so zu antworten, wie wir es wahrscheinlich gerne hören wollen. Und will man die Antwort hören: "Weiß ich nicht?"