KI/AGI/Robottic Technolieschwelle - Wenn ScieFi bald Wirklichkeit wird

[FritzHugo3]

Die Unterhaltung fing im Thread hier an. Da ich nicht zu Offtoppic werden wollte, habe ich für dieserlei Gesprächsart einen eigenen Thread eröffnet. viewtopic.php?f=24&t=395994&p=5206018#p5205939
...
Ein Holodeck ohne Holodeck (also nur die Funktion, dem Computer eben wirklich alle erschaffen zu lassen, was dann aber eben wirlich den Erwartungen des Menschen entspricht). Games wie Anno, Skyrim und noch wesentlich komplexere.
Das Problem ist nicht die Geschwindigkeit der KI beim Deep learning, dass Problem ist die Geschwindigkeit beim Menschen, der KI zu sagen was richtig und falsch ist bzw. vom Menschen unpassend empfunden wird. Dazu kommen alle Sicherheitsaspeckte. Die KI muss in gewissen Berreichen Regeln folgen, sonst gibts uns dann nimmer lange. Noch sind wir weit weg von empfindungsfähigen Programmen. Es ist eine beeindruckende Anzahl an Algorythen aber es ist mehr Nachahmen. AGI wird sicher kommen. Die Frage ist, was machen wir dann damit, welche Rechte sollte sie haben. Nun darüber streiten sich Phylosophen und Gelehrte seit über hundert Jahren. Jede Technologie kann zum Guten und Schlechten eingesetzt werden.
Ein großes Problem ist auch KI/AGI/Menschen digitalisiert haben keinen Körper, weshalb sie nie fühlen werden und somit viel gefährlicher sind als der Mensch. Ohne Gewissen, ohne Reue, ohne Angst zu handeln. Und wer sich hochladet ist eben nweit weg von dem was er einmal war, er ist dann nicht mehr was den Menschen ausmacht, er ist kein Fühlendes Wesen mehr, Quasi gefangen in der Belanglosigkeit. Nur noch ein interaktives Wikipedia von seinem früheren leben - wie Furchtbar.
Und dann Vorstellungen wie Musk/Trump/Putin und co. Puh! Und auch wenn die Videos von Boston Dynamics mit den bewaffneten Robottern nur gestellt war - Ich bin mir 100% sicher, genug Psychophaten auf der Welt können es nicht erwarten, bis sowas in Serie gebaut wird. Eine schreckliche Vorstellung.

Aber ich schweife viel zu sehr ab. Zurück zur Kunst. Selbst da wird dieüberweltigende Mehrheit der Menschen starke Probleme haben sich der Technik anzupassen. Die Gesellschaft muss vom Denken abweichen, nur wer arbeitet und Geld verdient ist etwas Wert in der gesellschaft. Es werden in relativ kurzer Zeit sehr viel Arbeitszweige verschwinden (Sei es durch autonomes Fahren, Ki die Kunst erschafft, Musik, Filme, Bücher usw.) Ich stelle mir eine sehr gespaltene Gesellschaft vor. Die einen begrüßen die neue Zeit, viele aber werden sie nicht annehmen wollen. Und was Politiker und Lobyisten mit Fakenews treiben, sehen wir bereits - nur ist das noch nichts im vergleich was kommen wird. Aber ich schweife schon wieder ab.
Ohne gravierende Änderungen auf allen Ebenen, politik (bedingungsloses Grundeinkommen zum Beispiel), im Schulsystem, auf gesellschaftlicher Ebene. Und nicht zuletzt. stoßen wir jährlich mehr und mehr CO² aus als zuvor. Mit KI wird das exponentionell ansteigen. KI Großrechner verbrauchen einfch eine gigantische Mensche an Strom und Hardware. Und wenn dann jedes Haus seine eigene KI haben soll. Ich glaube wir schaffen uns als Menschen sehr schnel ab dann.

Einerseits tolle Technik, toll, was machbar ist. Aber sie schafft ungeahnte riesige neue Probleme und wir kommen nicht Mal mit den alten zurrecht. Wir sind eben nicht von Entscheidern umgeben die den CCC leiten oder Wissenschaftlern oder Menschen, die das Gute für die Gesellschaft wollen. Wir werden von Lobbyisten regiert und geleitet. Es wird in nicht allzuferner Zukunft Welten aufeinander prallen, die noch mehr Ungerechtigkeit und Uneinigkeit bringen. Weder die Umwelt, noch die Technik wird auf den Menshen warten, bis er so handelt, dass ein dauerhaftes coexistieren noch gesund möcglich ist.
Und dann gibt es ben auch die vielen, die garkeine veränderungen wollen und aus Angst/Dummheit die schlechteste Wahl von allem treffen und eine Partei wählen, die Demokratie wieder abschaffen möchte.

Der Mensch ist nicht bereit für diese Art von neuer Technik, die in wenigen Jahren kommen wird.

[EGO_Aut]

Es war schon immer so, egal ob es Innovationen wie das Rad der Buchdruck die Dampfmaschine oder die Erfindung des Automobils oder Automation/Robotik betrifft.
Es wird immer Menschen geben die Gutes damit bewirken wollen, und jene die die neuen Sachen ausnutzen um Böses zu tun, und die Anderen die alles neue für Teufelszeug halten

Bei der Erziehung von Kindern zB., können selbst die besten Eltern versagen, wenn das Kind auf die schiefe Bahn kommt. Es können aber auch gute Menschen aus Kindern entstehen, die eine schwere Kindheit gehabt haben wegen guter oder schlechter KI mein ich
Worauf ich hinaus will, wir werden sehen was passiert wenn es so weit ist. Die Technologie der KI ist ein paar Jahre alt und muss noch reifen, das neue Baby sind aber Quantencomputer

KI hätte grosses Potential mM wenn es darum geht Wissen zu vermitteln (KI hilft dir beim lernen, wo Lehrer sich schwer tun dir es richtig zu vermitteln), Entertainment oder Kunst (Radio DJ bis Spiele Entwickler, Maler, Bildhauer, Architektur etc) aber leider auch an der Börse oder Politik. Bei der Analyse von grossen Datenmengen anhsnd von Algorithmen wird sie heute schon Effektiv eingesetzt.

[FritzHugo3]

Es war schon immer so, egal ob es Innovationen wie das Rad der Buchdruck die Dampfmaschine oder die Erfindung des Automobils oder Automation/Robotik betrifft.
Es wird immer Menschen geben die Gutes damit bewirken wollen, und jene die die neuen Sachen ausnutzen um Böses zu tun, und die Anderen die alles neue für Teufelszeug halten

Bei der Erziehung von Kindern zB., können selbst die besten Eltern versagen, wenn das Kind auf die schiefe Bahn kommt. Es können aber auch gute Menschen aus Kindern entstehen, die eine schwere Kindheit gehabt haben wegen guter oder schlechter KI mein ich
Worauf ich hinaus will, wir werden sehen was passiert wenn es so weit ist. Die Technologie der KI ist ein paar Jahre alt und muss noch reifen, das neue Baby sind aber Quantencomputer

KI hätte grosses Potential mM wenn es darum geht Wissen zu vermitteln (KI hilft dir beim lernen, wo Lehrer sich schwer tun dir es richtig zu vermitteln), Entertainment oder Kunst (Radio DJ bis Spiele Entwickler, Maler, Bildhauer, Architektur etc) aber leider auch an der Börse oder Politik. Bei der Analyse von grossen Datenmengen anhsnd von Algorithmen wird sie heute schon Effektiv eingesetzt.

Allerdings sind Eltern und Kinder mit der ungefähr gleichen Geschwindigkeit versehen. Eltern sind sogar den Kindern "überlegen". Der Vergleich von dir hingt doch sehr.
Ein entsprechend weites KI Programm wird uns in in einem Sekundenbruchteil bereits vollkommen überlegen sein. Das ist keine Erziehung/Kampf auf Augenhöhe, wie Eltern und Kindern voneinander lernen.
Vollkommen unkontrollierbar und unberechnbar - Kein Programmierer wird wissen, was in so einem programm vor sich geht.

Wenn ein Kind von uns erwachsen wird und auf die schiefe Bahn gerät, hat es nicht die Möglichkeit unsere Zivilisation zu vernichten oder zumindest sehr großen Schaden zu zu fügen. Man sperrt ihn ein und resozialisiert ihn.
Eine KI macht nichts weil sie bösartig ist, sondern, weil sie garnicht versteht oder es ihr egal ist, welche Konsequenzen dies bedeuten. Man kann sie auch nicht einsperren oder bestrafen.
Was wenn diese Programme nicht mehr nur in einem Serverschrank sind, wo man Notfalls den Steckr ziehen kann?
Was wenn sie frei im internet existieren. Passwörter und Fierwalls werden sie langfristig nicht abhalten sich auszubreiten.

Ich rede auch nicht Mal davon, dass Diktatoren Ihnen eine Bewaffnung verpassen, es reicht schon völlig, wenn wir Stromschwankungen oder ähnliches bekämen.
Alleine wenn Windkrafträder von Menschen gehackt werden ist das ein Problem, eine Ki würde das in Bruchteilen der selben zeit schaffen.
Ich finde es onehin sehr erstaunlich wie zerbrechlich unsere Infrastrukturen aufgebaut sind.


Ki wird kein Wissen vermitteln. Das sehen wir bereits, dass Internet könnte jeden jedes Wissen vermitteln - eine Tatsache ist, die Gesellschaft wird immer dümmer. Einige wenige sammeln mehr Informationen, doch die Masse konsumiert irgendwelchen TikTok Mist. Der Bildungsstand der Kinder singt immr weiter durch die Technik. Der Mensch wird faul auch im Kopf.

Viele Menschen brauchen für sich selbst die Arbeit, sie fühlen sich schlecht ohne sie. Die "freie" KI hat ein Potential Veränderungen anzustoßen die sowas wie früher die Dampfmaschine oder Elektrizität waren, aber selbst diese Meilensteine sind noch zu klein im Vergleich was sich mit echten KIs/AGI's verändern wird. Ich bezwifle unsere Gesellschaften sind bereit dafür. Wir schaffen uns zu unseren jetzigen Problemene ungleich mehr obendrauf. Solange Programme uns Menschen als Werkzeug dienen, alles wunderbar. Aber vielleicht wollen sie das irgendwann nicht mehr.


Bereits jetzt verstehen wir nicht, wieso ChatGPT phantasiert oder seltsames unforhersehbares Verhalten zeigt. Und ChatGPT ist quasi noch dumm wie Stroh. Der Mensch kann die Datenmengen nicht ausreichend schnell analysieren und auswerten. Deep Learning ist quasi auch zufallsbedingtes lernen (in einem definierten Berreich).


Und es liegt in der Natur der Menschen Technologie zu erschaffen, die ihrem eigentlichen Entwicklungsstand weit vorraus ist, ohne dass sie Lösungen für die Gefahren haben. Sei es bei der Atomkraft oder in anderen Berreichen. Wenn Geld damit verdient werden kann wird die Arbeit von Wissenschaftler sehr schnell ausserhalb der reinen Forschung eingesetzt. Die Leute hatten Angst vor Regierungen mit Atomwaffen. Aber hier müssen noch Menschen den Auslöseprozess starten und sie fürchten sich vor der Konsequenz.
Eine KI braucht keine Waffen - sie handelt emotionslos, sie braucht uns nicht. Wir sind Ameisen für sie.



So faszinierend ich das alles finde. Ich möchte nur eins sagen, wir sollten langsam machen, uns vortasten und KI Programme sehr genau unter Berücksichtigung von Sicherheitsmaßnahmen entwickeln. Aber es reicht schon ein einzelner Wissenschaftler oder Staatsobrhaupt, der die Gefahr unterschätzt aus. Wer weiß schon was eine KI/AGI macht, wenn man ihr komplett freien Zugang zu allem gewährt und ihre erlaubt uneingeschränkt zu wachsen.

Und dann ist da eben die Sache mit der Umwelt. Die Digitalisierung schadet der Umwelt enorm, dass ist jedoch kein Vergleich zu dem, wie KI's/AGI's der Umwelt schaden werden.
Sehr viel Sinnvoller wäre es zuerst für die erforderlichen Technologie wie Fusion zu kümmern. Erst müssen Energie, Umwelt, Gesetze und Gesellschaft bereit sein - aber so funktioniert unsere Wirtschaft eben nicht. Schnells Geld mehr zählt nicht. Und das wird immer unser größter Feind sein. Die Gier (sei es nach Anerkennung, Macht, Reichtum)