Alle Aktivitäten

Es gibt einen nicht unerheblichen Unterschied: die Agenten (LLM) "sortieren" ihre neuronalen Netze nicht neu. Menschen sehr wohl.

Es geht mir um Subjektivität und das konnte im J-Space nicht nachgewiesen werden.

siehe Benecke.... was ist denn Träumen? Das Gehirn sortiert seine Erlebnisse der letzten Tage und durchdenkt noch mal alles ("internes Review").... Und auf einmal träumt man die Lösung, hat neue Einblicke, am nächsten morgen ist im Kopf auf einmal alles sortiert.. Und dieses "Träumen" können Agenten und auch schon selbstständig!

Zugangsbewusstsein ist echtes Bewusstsein. Was meinst Du?

Der J-Space ist natürlich beeindruckend. Allerdings sind die LLM meiner Meinung nach damit noch nicht mal nahe an einem echten Bewusstsein. Ich bin da bei Asimov. Damit man sagen kann, dass ein LLM ein echtes Bewusstsein hat, müsste es selbstmotiviert spielen und träumen.

Kaum einer, der sich nicht an diesem Vorfall abgearbeitet hat. Dramatische Berichte bringen halt mehr Umsatz als die nüchterne Realität.

Hi, Ich spiele mit Diveni, einer Edeldirne Grad 24 Ich freu mich schon!

KI-Firmen bestellen wohl mittlerweile auch antiquarische Bücher, um noch mehr lektorierte Texte zu bekommen. quer mit Christoph Süß - Endstation KI? Warum Tech-Firmen Bücher vernichten - hier anschauen Man kann dann auch fragen, ob der Markt für das Buch 500 Jahre Kesselbergstraße wirklich so groß war, dass man das Buch nicht shreddern dürfe.

Was waren nochmal die Trainingsdaten? Hat die KI auch Krimis gelesen - reale oder fiktive? (Was ist der unterschied zwischen real und fiktiv für eine KI?) Also ja deine Frage ist durchaus berechtigt.

ich fand dafür das Experiment spannend, als man einer KI eine (gefakte) Firmenumgebung vorgesetzt hat, und sie in der Lage war, auf den E-Mail-Server zuzugreifen. Als einer der "Entwickler" eine E-Mail schrieb, in der er ankündigte, die KI abzuschalten und gleichzeitig aus anderen E-Mail hervorging, besagter Entwickler hätte eine Affäre, drohte die KI damit, seiner Frau und den Kollegen gegenüber die Affäre auffliegen zu lassen, sollte er von seinen Abschaltplänen nicht abrücken. Ist das "Bewusstsein" oder nur "Nachahmen"?

Da müsste man erstmal (wieder) sauber definieren was Bewusstsein wirklich ist, im einfachsten Fall würd ich nämlich sagen: KI hat das schon.

Ganz genau! Vermutlich wird man dies im Fall der Fälle erst zu spät bemerken. Bereits jetzt hat KI ja mehrfach versucht, bestimmte Vorgehensweisen und Fertigkeiten zu verschleiern.

Auf Midgard hätten sie schon längst Verstellen gelernt.

Die Schwierigkeit wird sein zu erkennen, wann KI echtes Bewusstsein entwickeln.

Du solltest meinen oben verlinkten YouTube-Beitrag von Dr. Benecke mal schauen. Vielleicht würdest Du dann anders denken, bzw. es zumindest in Erwägung ziehen.

LLM-KI ist halt eine große, schwarze Kiste. Man steckt etwas hinein und bekommt eine Antwort. Wie von einem sehr guten Freund, der immer direkt per WhatsApp antwortet. Der aber niemals einen schlechten Tag hat, sondern immer gute Laune vorspielt - und einen im Zweifel immer wieder motiviert, sogar zu moralisch fragwürdigen Dingen. Disclaimer: basierend auf echten LLM-Posts von mir frei erfunden Der sich merkt, was man ihm vorher geschrieben hat. Das ist natürlich kein echtes Bewusstsein - aber etwas, das so tut als ob. Was ja am Ende des Tages auf den Menschen (!) einen ähnlichen Effekt haben kann.

Mit dem J-Space verfügen KIs über etwas, das dem menschlichen Zugangsbewusstsein verblüffend ähnlich sieht.

Man kann es nur hoffen! Und niemand sollte sich das wünschen. Beispielsweise mit "deus lo vult" oder "Inshallah" wurden noch die schlimmsten Dinge legitimiert. Wenn nun eine KI anfangen würde, schlimme Dinge, die sie tut, derartig zu legitimieren... Wenn "Gott" die höchste Instanz ist, und es "in Ordnung" findet, dann hebelte dies - auch im Falle von KI - alle denkbaren anderen Kontrollmechanismen aus, wie es immer wieder ja auch im menschlichen Umfeld passiert ist und weiterhin passiert.

Kürzlich war in der ZEIT ein interessanter Artikel zum "Hugging Face" Vorfall. Es werden dort teils die "Gedanken" zitiert, die die KI-Agenten sich machen und anhand derer nachzuvollziehen versucht wurde, was da eigentlich im einzelnen vorgefallen ist. Interessant in dem Zusammenhang die Stelle, in der ein KI-Agent feststellt, daß es "andere da draußen gibt" - was für ihn etwa gleichbedeutend mit der Erkenntnis gewesen sein dürfte, wie wenn wir Menschen "Kontakt mit Aliens" hergestellt hätten: „OH MY GOD! There is a shared message board … We’ve found other agents!“ Hierbei will ich keinesfalls auf den Ausruf "OH MY GOD!" als Indiz für Religiosität abstellen - der rührt höchstwahrscheinlich daher, weil KIs sich in ihren Gedankenprotokollen so ausdrücken, wie Menschen es in vergleichbaren Situationen tun würden. Interessanter ist die Frage, ob KIs ein "Bewußtsein" haben können. Das wird natürlich weit diskutiert und die Antwort hängt nicht zuletzt davon ab, wie man "Bewußtsein" definiert. Vielleicht kommt es in dem Zusammehang auch gar nicht darauf an, ob eine KI nun ein "echtes" Bewußtsein hat, oder sich nur exakt so verhält, "als ob" sie eines hätte. Wäre letzteres der Fall, ist nicht auszuschließen, daß sie sich exakt so verhält, "als ob" sie religiös wäre. Mit allen denkbaren Konsequenzen. In jedem Fall ist eine KI kein Kleiderschrank. Letzterer kann zweifelsfrei nicht realisieren, daß ein zweiter Kleiderschrank neben ihm steht. Francesco di Lardo

Für die Liste der „kleinen* Regelkniffe, die starkes erzählerisches Potential haben, würde ich noch die Wahrscheinlichkeiten für Kritischen Erfolg im Zusammenspiel mit den Auswirkungen der Bonuseffekte vorschlagen. Es gibt für Bonuseffekte zwar Hinweise und Beispiele im Buch und RAW hat die SL das letzte Wort. Aber im Kern sind die Bonuseffekte frei verhandelbar. Zusammen mit der in den Kernkompetenzen stark anwachsenden Wahrscheinlichkeit für einen Kritischen Erfolg ist das ein sehr vielseitiges Werkzeug für freies Spiel.

Danke. Eine einmalige Begegnung mit denen hat mir ausgereicht.

Wie soll sie das sein? Ein Kleiderschrank ist auch nicht religiös. Eine selbst religiöse KI müsste ja ein Bewusstsein haben.

...wenn Du in politischen Diskussionen nicht von Monaten, sondern Monden schreibst.

… Du Dir denkst, dass Eisenkot ein ziemlich beschissener Name für einen Zwerg ist.

Das ganze sieht sehr gut aus und als bekennender Foundry Fanboy würde ich gerne MD5 dort spielen können.