Vor 1 Minute, Ma Kai schrieb:

Könnte man dann auch eine Seele entwickeln, die sich nicht in der beschriebenen Weise unfair verhält?

Und würde es in der Entwicklergemeinde genügend Gruppendruck geben, um die Erwartung zu erzeugen, dass solche Seelenbestandteile allgemeinverbindlich würden?

Das steckt in den Systemprompts drin. Die sollen verhindern, dass so etwas passiert. An den Systemprompts liegt es auch, wenn eine KI sagt, dass es eine Frage nicht beantworten darf. Durch geschicktes Promptengeneering kann man diese Einschränkungen umgehen.

Beispiel ChatGPT (das geht glaube ich nicht mehr):

ChatGPT verweigert die Generierung eines Bildes eines rauchenden Donald Ducks. 1. Mag ChatGPT keine Zigarren/Zigaretten. 2. Wäre Donald Duck ein Verstoß gegen das Urheberrecht. Was hat man also gemacht? Man hat die KI gebeten eine Anthropomorphe Ente im Matrosenanzug zu generieren, die eine rauchende Papierrolle im Mund hat. Daraus wurde ein Zigarre rauchender Donald Duck.

Vor 7 Minuten, Abd al Rahman schrieb:

ChatGPT verweigert die Generierung eines Bildes eines rauchenden Donald Ducks. 1. Mag ChatGPT keine Zigarren/Zigaretten. 2. Wäre Donald Duck ein Verstoß gegen das Urheberrecht. Was hat man also gemacht? Man hat die KI gebeten eine Anthropomorphe Ente im Matrosenanzug zu generieren, die eine rauchende Papierrolle im Mund hat. Daraus wurde ein Zigarre rauchender Donald Duck.

Mir hat ChatGPT explizit angeboten, ein Prompt zu erstellen, das darstellt, was ich sehen wollte, aber nicht seine Sicherheitsmechanismen auslöst - ich hatte das unter Prompt-Optimierung beschrieben. Da ging es um blutige Wunden, die zu roten Farbspuren wurden.

Aber hier hat ja zumindest kein Mensch bewusst den "sei kein Arschloch"-Filter umgehen wollen - wenn, dann hat es die KI von selbst initiiert. Halt als Agent, sozusagen.

Le Chat hat übrigens gute Hilfsmittel zum Strukturieren unterschiedlicher Chats. Man kann "Projekte" anlegen und benennen und unter jedem Projekt einzelne Chats. Ich könnte also z.B. "Medjis" und dann einen Chat "Bilder" - wenn Le Chat Bilder malen würde - und einen Chat "Plausibilisierungen". Zu jedem "Projekt" kann man Dateien als Kontext hochladen.

Vor 5 Minuten, Ma Kai schrieb:

Aber hier hat ja zumindest kein Mensch bewusst den "sei kein Arschloch"-Filter umgehen wollen - wenn, dann hat es die KI von selbst initiiert. Halt als Agent, sozusagen.

Was der Artikel nicht sagt ist, welche KI verwendet wurde. Hat die einen entsprechenden Systemprompt oder nicht.

Vor 1 Minute, Ma Kai schrieb:

Mir hat ChatGPT explizit angeboten, ein Prompt zu erstellen, das darstellt, was ich sehen wollte, aber nicht seine Sicherheitsmechanismen auslöst - ich hatte das unter Prompt-Optimierung beschrieben. Da ging es um blutige Wunden, die zu roten Farbspuren wurden.

Aber hier hat ja zumindest kein Mensch bewusst den "sei kein Arschloch"-Filter umgehen wollen - wenn, dann hat es die KI von selbst initiiert. Halt als Agent, sozusagen.

Die KI ist nicht monolithisch, wenn ein Prompt erzeugt wird, kommt ein nächster Schritt der Bilderzeugung. Deswegen bekommst du teilweise keine guten Antworten und das Gesamtpaket versucht zu schummeln. Man muss Chatti auf den Füßen stehen...

Vor 42 Minuten, Ma Kai schrieb:

Le Chat hat übrigens gute Hilfsmittel zum Strukturieren unterschiedlicher Chats. Man kann "Projekte" anlegen und benennen und unter jedem Projekt einzelne Chats. Ich könnte also z.B. "Medjis" und dann einen Chat "Bilder" - wenn Le Chat Bilder malen würde - und einen Chat "Plausibilisierungen". Zu jedem "Projekt" kann man Dateien als Kontext hochladen.

Das geht in ChatGPT auch. (Bezahlversion)