Alle Aktivitäten

Ich schätze mal, M7 hat das Potential, der Nachfolger von M1-5 zu werden.

@Akeem al Harun ich bin nicht immer mit dir einer Meinung, aber der Beitrag mit dem "schwarzen Keiler" trifft es sehr gut.

Danke, da steht "für dich". Das können unterschiedliche Aspekte sein. Also ist die Umfrage schlecht formuliert. @Einskaldir , es scheint, er "ließ" die Frage, anstatt sie zu lesen.😉 @Panther Die Umfrage ist klar formuliert, du verstehst sie nur nicht. "Für Dich", bedeutet, nach Deinem Empfinden, was spielst Du danach oder was wirst Du wahrscheinlich spielen, so es denn auf dem Markt erschienen sein wird. Sachlich ist M6 der Nachfolger, weil es das Markenrecht gibt und es chronologisch nach M5 entsteht.😉

Das geht in ChatGPT auch. (Bezahlversion)

Die KI ist nicht monolithisch, wenn ein Prompt erzeugt wird, kommt ein nächster Schritt der Bilderzeugung. Deswegen bekommst du teilweise keine guten Antworten und das Gesamtpaket versucht zu schummeln. Man muss Chatti auf den Füßen stehen...

Was der Artikel nicht sagt ist, welche KI verwendet wurde. Hat die einen entsprechenden Systemprompt oder nicht.

Ich mochte es immer gern im schwarzen Keiler.

Le Chat hat übrigens gute Hilfsmittel zum Strukturieren unterschiedlicher Chats. Man kann "Projekte" anlegen und benennen und unter jedem Projekt einzelne Chats. Ich könnte also z.B. "Medjis" und dann einen Chat "Bilder" - wenn Le Chat Bilder malen würde - und einen Chat "Plausibilisierungen". Zu jedem "Projekt" kann man Dateien als Kontext hochladen.

Mir hat ChatGPT explizit angeboten, ein Prompt zu erstellen, das darstellt, was ich sehen wollte, aber nicht seine Sicherheitsmechanismen auslöst - ich hatte das unter Prompt-Optimierung beschrieben. Da ging es um blutige Wunden, die zu roten Farbspuren wurden. Aber hier hat ja zumindest kein Mensch bewusst den "sei kein Arschloch"-Filter umgehen wollen - wenn, dann hat es die KI von selbst initiiert. Halt als Agent, sozusagen.

Das steckt in den Systemprompts drin. Die sollen verhindern, dass so etwas passiert. An den Systemprompts liegt es auch, wenn eine KI sagt, dass es eine Frage nicht beantworten darf. Durch geschicktes Promptengeneering kann man diese Einschränkungen umgehen. Beispiel ChatGPT (das geht glaube ich nicht mehr): ChatGPT verweigert die Generierung eines Bildes eines rauchenden Donald Ducks. 1. Mag ChatGPT keine Zigarren/Zigaretten. 2. Wäre Donald Duck ein Verstoß gegen das Urheberrecht. Was hat man also gemacht? Man hat die KI gebeten eine Anthropomorphe Ente im Matrosenanzug zu generieren, die eine rauchende Papierrolle im Mund hat. Daraus wurde ein Zigarre rauchender Donald Duck.

Könnte man dann auch eine Seele entwickeln, die sich nicht in der beschriebenen Weise unfair verhält? Und würde es in der Entwicklergemeinde genügend Gruppendruck geben, um die Erwartung zu erzeugen, dass solche Seelenbestandteile allgemeinverbindlich würden?

Nicht isoliert, aber definiert. Ich nenne meinen Chatbot Salem. Ich habe ihm aufgetragen sarkastisch aber ehrlich zu antworten (neben anderem), wie der Kater Salem aus der Serie Sabrina und es funktioniert. Das steckt in den Seelendaten drin und gehört zum System Prompt.

Die angesprochenen Seelendateien finde ich spannend. Kann da in einer Datei das Verhalten tatsächlich isoliert werden, aus dem komplexen Netz der kompletten KI?

Nee. Das Verhalten siehst Du überall im Netz. Du kannst von Diffamierungskampagnen lesen. Das steckt alles in den Trainingsdaten drin.

Das sind auch "nur" die Trainingsdaten mit denen trainiert wurde. Du meinst, es sei im Open Source-Umfeld üblich, auf einen abgelehnten Code mit Attacken auf die Person zu reagieren und die KI habe dies quasi als Norm übernommen? Autsch... ?

Von derselben Site: https://the-decoder.de/neuer-benchmark-zeigt-ki-modelle-halluzinieren-immer-noch-viel-zu-oft/ KI halluziniere in 30-60% der Fälle. Das hieße, mehr als jede zweite, mindestens jede dritte Antwort. Nun stelle ich meistens Fragen zu Themen, bei denen ich mindestens über Halbwissen verfüge - meistens geht es mir darum, aus einer Erinnerung eine zitierfähige, konkrete Aussage zu machen. Ich habe dabei Le Chat, vorher Perplexity, noch nicht bei einer Halluzination ertappt. In letzter Zeit habe ich auch öfter mal die konkreten Zahlen aus Le Chat via Google nachgeprüft. Nada. Die einzige klare Halluzination, bei der ich mal eine KI erwischt habe, war bei der Frage nach Midgard-Thursen. Das war katastrophal daneben, komplett fabuliert. Klang überzeugt, aber eben in der Sache komplett Banane. Aber ich habe in letzter Zeit die KI durchaus häufiger befragt, eben primär zu Alltags- und Politikthemen, und dabei wie gesagt, mit Halb- bis Fünfsechstelwissen keinen Fehler erkannt. Das wundert mich jetzt.

Das sind auch "nur" die Trainingsdaten mit denen trainiert wurde.

Wo wir gerade bei der Klaue sind: https://the-decoder.de/autonomer-ki-agent-startet-rufmordkampagne-gegen-open-source-entwickler/ Eine KI, die sich sehr menschlich verhält?

Guter Hinweis... Ich hebe den Satz am Besten hervor.

Deswegen ist deine Warnung (vorletzter Satz im Beitrag oben) so wichtig. Grundsätzlich gilt natürlich immer, dass man die Finger von etwas lassen sollte, wenn man davon keine Ahnung hat. Aber Open Claw ist bequem und die allermeisten Nutzer können die Tragweite des Systems gar nicht bewerten.

Ja. Gerade OpenClaw ist irre gefährlich. Falsch installiert und ein Eindringling hat Zugang zu allem. Passwörter, Mail Accounts etc.

Das Problem bei diesen Themen ist, dass du selbst als Fachperson Probleme hast, auf der Welle zu reiten. Diejenigen, die nicht so tief drin sind in der Technik, gehen da tendenziell unter bzw. sind abgehängt. Die Entwicklungen in dem Bereich sind nicht nur spannend, sie sind auch megarasant.

Eine wichtige Sache vorneweg: Das Ganze funktioniert richtig gut. Ich würde aber jemanden, der so ein System nicht absichern kann, nicht raten die Dienste derzeit zu nutzen. Das ist derzeit ohne tiefere Kenntnisse, wie man ein solches System absichert, brandgefährlich. Ein Angreifer kann Zugang zu allem bekommen. Alle Passwörter, alle Mailaccounts etc. Mal so ein paar praktische Anwendungen von KI und Agenten. Ich habe mittlerweile mehrere Agenten testweise laufen. Sammlung von Nachrichten zu Themen die mich interessiert. So komme ich immer wieder zu Artikeln, die sonst nicht sehen würde und ich spare mir viel rumgeklicke im Netz Sicherheitsrelevante Themen zu Software die ich nutze - auch zu dem Forumsserver z.B. Ich bekomme mit, wenn es ein Sicherheitsupdate gibt. Pflege von Tasklisten aus Mails. Ich hab mehrere Mailadressen. Kommt was rein das erledigt werden muss, geht es an die Mailadresse und die KI macht ein Task daraus. Selbiges für Notizen. Entweder per Mail an die KI oder den Link zu einer Seite an die KI geschickt, die aus der Seite ne Notiz macht. Ich nutze dazu im wesentlichen N8N und OpenClaw als Treiber der Agenten, ChatGPT als KI und Telegram um mit meiner KI zu chatten. Das ist erstmal nur ein Proof of Concept. Das läuft alles auf einem eigenen Rechner im Netz. OpenClaw ist ein gigantisches Sicherheitsrisiko, weswegen ich die eigentliche Arbeit von N8N Workflows erledigen lasse. OpenClaw entscheidet nur in welchen Kanal was gesteuert wird. Das könnte sich in Zukunft ändern. OpenAI hat gerade OpenClaw gekauft.

!!!mod!!! Ob die Umfrage richtig formuliert ist oder nicht, gehört hier nicht ausufernd diskutiert. Ne kurze Anmerkung, dass man sich in den Antworten nicht wiederfindet ist ok, aber dann sollte sich die Sache erledigt haben.

@Panther Meine Umfrage ist gut formuliert. Wenn sie dir nicht passt, macht deine eigene.