sechs Monate Pause bei der KI Entwicklung wären evtl. sinnvoll, um bei Bedarf notwendige Kontrollmechanismen installieren zu können (siehe auch Link). Einige ChatGPT Nutzer schaffen sich mittelfristig evtl. selbst ab.
#251 Fortschritt durch Verbote aufhalten? Selbst wenn, würde dies das Unvermeidbare lediglich hinauszögern. Und die Nutzer schaffen eher die Nicht-Nutzer ab als sich selbst, die Vogel-Strauß-Taktik bringt hier keine Vorteile. Das ist sowieso wieder so eine Pessimisten-Diskussion, in ein paar Jahren nutzt das jeder hier.
Zitat von Dr.Faust im Beitrag #250Faust ist das Drama des nach Erkenntnis strebenden Menschen, der bemerkt, dass er nichts wissen kann
Der Faust hat dem Erkenntnisstreben doch selbst abgeschworen...
Zitat von version2 im Beitrag #252Das ist sowieso wieder so eine Pessimisten-Diskussion, in ein paar Jahren nutzt das jeder hier.
Meine Beiträge fokussieren hier ja mehr auf Anwendung von AI im Bereich der medizinischen Forschung.
Man müsste hier einige Standpunkte differenzieren: 1. AI funktioniert eigentlich nicht, ChatGPT ist nur eine Art besseres ELIZA. (Selbst wenn: Es gibt andere AIs, die arbeiten und deren Arbeit Konsequenzen haben wird.) 2. AI wird alle Arbeitsplätze kosten und es hilft eigentlich nur wenigen usw.usf. 3. AI wird uns zur Singularität führen
Nun kann man das mit der Singularität sicherlich bestreiten. Jedenfalls bis eine AI wirklich effektiv neue AI-Systeme entwickelt, die dann wieder bessere AIs entwickeln usw. Meine größte Sorge betreffend AI ist eigentlich, dass man jetzt mit scheinbar harmlosen Daten viel mehr Schindluder treiben kann. Wirtschaftlich: Kann ich nicht absehen, ehrlich gesagt. Singularität wäre wohl zu schön um wahr zu sein, jedenfalls so, wie sie beschrieben wurde.
Ich weiß nich mt mal was Fortschritt bedeuten soll?
Für Methusalem scheint es eine Medizin zu sein, die höchstgradig fremdgesteuert ist, die gewährt wird oder erkauft werden kann.
Was war es für Goethe der Fortschritt? Ich hatte ihn ja nicht als Schüler und ich hätte ihn zu der Zeit auch gar nicht verstehen können.
Es gibt aber bestimmt seinen eigenen Fortschritt im erkennen und letztlich bleibt uns Menschen nur die Spiritualität, weil die Maschine überall dominiert.
Zankapfel Taiwan...Chips sind wertvoller als Menschen in fortschrittlichen Zeiten.
Es ist schon faszinierend, was KI alles kann. Eine KI kann nach drei Sekunden Stimmen täuschend echt imitieren. Hier wurde z. B. die Stimme einer Tochter imitiert und Lösegeld gefordert. Selbst die Mutter konnte die Stimme ihrer Tochter nicht unterscheiden von der KI. In den USA gab es wohl schon ein paar solcher Fälle, dann wird es bei uns auch bald so weit sein.
Ich schätze mal, einmal einen Firmenchef anrufen und der Sekretärin dann am Telefon eine Überweisung tätigen lassen, müsste funktionieren. Und der Chef zeigt wahrscheinlich anschließend die Sekretärin an, weil er weiß, dass er sie nicht angerufen hat und es für einen Betrug der Sekretärin hält. Das gibt interessante Gerichtsverfahren, weil die Sekretärin sich wirklich einen KI-Betrugsanruf nur ausgedacht haben könnte.
Früher kam Scam nur schriftlich rein und war leicht zu erkennen, jetzt wird es die wirkliche Stimme seines Kindes, seiner Ehefrau, seines Bänkers etc.
Was ich nebenbei auch interessant finde: Firmen wollen die Stimme von Verstorbenen einspielen und dann eine KI verkaufen, um mit dem Verstorbenen sprechen zu können. Da bin ich mal gespannt wie es sich verkauft, schließlich würden einige Trauernde alles machen, um die Trauer abzumildern.
Sorge vor „politisch korrekter“ KI – Musk will mit TruthGPT die „Wahrheit“ suchen
Im TV Sender Fox News hat Elon Musk seine Pläne für eine Künstliche Intelligenz vorgestellt. Er warnte bei Tucker Carlson erneut vor den potenziell tödlichen Gefahren einer entfesselten Künstlichen Intelligenz. Sein eigenes KI-Projekt werde nach der „Wahrheit“ streben.
"Im TV Sender Fox News hat Elon Musk seine Pläne für eine Künstliche Intelligenz vorgestellt. Er warnte bei Tucker Carlson erneut vor den potenziell tödlichen Gefahren einer entfesselten Künstlichen Intelligenz. Sein eigenes KI-Projekt werde nach der „Wahrheit“ streben. Anzeige
Elon Musk sorgt sich darum, dass die populäre KI-Software ChatGPT zu sehr auf „politische Korrektheit“ trainiert werden könnte. Darauf wolle er mit der Schaffung einer Alternative namens „TruthGPT“ reagieren, kündigte der Tech-Milliardär in einem Gespräch mit Fox-News-Moderator Tucker Carlson an, das in Teilen am Montag ausgestrahlt wurde.
Dabei handele es sich um „eine absolut nach Wahrheit strebende KI, die versucht, das Wesen des Universums zu ergründen“. Eine solche Software, die die Menschheit verstehen wolle, trachte dann womöglich weniger nach deren Zerstörung.
Damit wiederholte der Tesla-Macher auch seine Warnungen vor potenziellen Gefahren künstlicher Intelligenz. Die könnte sich, so Musk, eines Tages womöglich auch gegen ihre Erschaffer wenden. Mehr noch, Künstliche Intelligenz habe insgesamt „das Potenzial zur Zerstörung der Zivilisation“. Sie könne letztlich entscheiden, „Menschen auszulöschen“.
TruthGPT solle daher so funktionieren wie Menschen, die den Lebensraum von Schimpansen schützen wollen, obwohl sie die Möglichkeiten hätten, die Affen allesamt zu „jagen und sie zu töten“. Er sei ein großer Fan der Reglementierung künstlicher Intelligenz, so Musk weiter. KI sei definitiv gefährlicher als Autos oder Raketen – zwei Technologiefelder, in denen der Twitter-Besitzer unternehmerisch aktiv ist."
Ich könnte mir vorstellen, daß Musk aufgrund seiner "Twittererfahrungen" sehr genau weiß, wovon er spricht und wie die KI mibraucht werden kann, wenn man nicht aufpasst.
Kurz vor dem Durchbruch: „Gottgleiche“ KI könnte laut Experte Menschheit zerstören
ZitatDer langjährige KI-Investor Ian Hogarth hat vor der Entwicklung einer Künstlichen allgemeinen Intelligenz (Artificial General Intelligence – AGI) gewarnt. Ein Durchbruch auf dem Gebiet stehe kurz bevor, glaubt Hogarth. In einem Gastbeitrag für die Financial Times appelliert er eindringlich dazu, die KI-Entwicklung zu verlangsamen, denn seiner Ansicht nach könne eine solche Technologie die ganze Menschheit zerstören.
Letztlich zeigt sich Hogarth jedoch pessimistisch: „Es wird wahrscheinlich ein größeres Missbrauchsereignis – eine Katastrophe – brauchen, um die Öffentlichkeit und die Regierungen aufzuwecken.“ Er werde künftig nur noch in Unternehmen investieren, die Sicherheit und Zusammenarbeit in der Branche großschreiben.
Zitat von Methusalem im Beitrag #259Ich denke, wir haben zu viele Filme, Serien usw. gesehen und glauben deshalb schon daran, dass die KI uns töten will.
Wir sind nicht unbefangen.
Das denke ich nicht. Ich persönlich bin ganz unbefangen und habe mich lange Zeit gar nicht dafür interessiert. Mittlerweile kommt aber niemand mehr daran vorbei und somit ist auch mein Interesse geweckt.
KI ist das, was Menschen daraus machen und da scheint sehr viel möglich zu sein, Missbrauch wird immer dort ausgeübt, wo Menschen über zu viel Macht verfügen. Selbst wenn der Markt reguliert und es Gesetze und Vorschriften geben wird, bzgl. KI, wird es zu Missbrauchsereignissen kommen, davon bin ich überzeugt.
Zitat von Methusalem im Beitrag #259Ich denke, wir haben zu viele Filme, Serien usw. gesehen und glauben deshalb schon daran, dass die KI uns töten will.
Wir sind nicht unbefangen.
Zumindest hat sich schon sehr vieles von dem "erfüllt", was z. B. in Scienes Fiction-Filmen oder Comics schon vor vielen Jahren gezeigt wurde. Auch Thriller zum Thema Überwachung, Abhören etc. haben schon vor Jahren gezeigt, was damals noch unvorstellbar war und heute Realität und Normalität ist. Und ich wage zu behaupten, daß ein techn. Revolutionär wie Musk genau um Chancen, aber auch Risiken weiß. Und er ist da ja nicht allein.
Elon Musk und über 1000 Techriesen warnen in offenem Brief vor KI
Ich denke, es geht den Warnern auch nicht darum, daß die KI uns irgendwann mal töten "will", sondern darum, daß so etwas, z. B. durch eigenmächtige Auslösung eines Atomschlages der KI, ohne das Menschen da noch eingreifen können, eventuell mal technisch möglich sein könnte, wenn man bei der Weiterentwicklung der KI nicht aufpasst.
Ich sehe auch viele Chancen, aber vielleicht haben so einige Experten Sorge, daß sich eine hochentwickelte KI irgendwann einmal einfach die Kontrolle nehmen kann. Wir Normalos wissen in der Regel noch nicht mal, was der heimische PC so alles tut, wenn er sich in den Nachstunden selbstständig aktualisiert oder was die Apps auf dem Smartphone alles so "nebenbei" machen usw. ...
Naive Technikgläubigkeit kann jedenfalls sehr gefährlich werden, denke ich. In der Regel ist ein technischer Fortschritt auch mit bekannten und oftmals unbekannten Nachteilen und Risiken verbunden, kommt vieles in diesem Bereich vom Militär und Sicherheitsapparat oder wird zumindest von diesem unterstützt usw. Wer hätte jemals gedacht, daß man von Staubsaugrobotern oder Rauchmeldern oder dem eigenen Smartphone ausgespäht und abgehört wird usw. usf, selbst dann, wenn man meint, alles für Sicherheit getan zu haben... Alleine das dies notwendig ist zeigt doch, was die Entwickler und Techniker selbst bei diesen alltäglichen und banalen Gebrauchsgegenständen da an Gefährlichem bewußt tun und einbauen. Und ja, ich bin davon überzeugt, daß es kein Versehen war, daß Amazons Alexa die Wohnung abhören kann.
Und da soll man einer KI blind vertrauen, die ggf. auch noch selbsttätig lernend ist?
Drei Gründe, warum KI-Chatbots eine Sicherheitskatastrophe sind Chatbots, die auf großen Sprachmodellen basieren, werden zurzeit in großem Umfang in Produkte integriert. Dabei sind sie voller Sicherheitslücken.
Zitat von Tizian im Beitrag #266Man ends his life after an AI chatbot 'encouraged' him to sacrifice himself to stop climate change
AUs dem Artikel "became extremely eco-anxious when he found refuge in Eliza, an AI chatbot on an app called Chai" (Mal hervorgehoben)
Weiß jemand mehr? Ist es diese Eliza? (Laut dem Bericht ist es ein GPT-Jbot) Und anscheinend hat der Mann seine Opferung selbst vorgeschlagen. Mag vielleicht sein, dass psychisch labile Menschen lieber die Finger von KI-Chatbots lassen sollten. Wenn es aber jene Eliza ist, dann...
Soweit ich das sehe hatte der Mann Angst vor dem Klimawandel und vertraute auf eine technische Lösung.
Wenn ich mich noch richtig erinnere (sehr lange her), war Eliza ein Dialogprogramm, bei dem man herausfinden sollte, ob man mit einer Software redet oder einem Menschen. Es sollte demonstrieren, was man (informations)technisch so kann. Heute ist das doch etwas weiter, hängt auch von der Rechenleistung ab. Und natürlich vom Internet-Zugriff. Was so ein Automat anrichten kann im Guten wie im Bösen hängt davon ab, welche Steuerungsmöglichkeiten man ihm gibt. Auch wenns nur Dialoge sind - kann auch gefährlich sein. Die Aktoren, Ausführenden sind halt dann die Menschen. Wie leicht sich Menschen beeinflussen lassen im Positiven bzw. harmlosen Bereich (Werbung) wie im Negativen, ist doch täglich vielfach zu sehen.
Eine Geschichte: Eine intelligente Software steuerte die gesamte Ampelsystem einer Stand um den Verkehr zu optimieren. Die Software sagte auch die Anzahl der Unfälle und Verkehrstoten voraus. Als sie merkte gegen Abend, dass sie zu hoch lag mit den Vorhersagen, schaltete sie an wichtigen Kreuzungen mal ganz kurz alle Ampeln auf Grün, um auf die Zahlen zu kommen.
Zum Thema "Kunst durch Künstliche Intelligenz" fiel mir noch ein, dass dem originalen "Werk" mehr Bedeutung zukommen wird. Also dem signierten Ölbild auf Leinwand aus der Zeit z.B. Fälscher gab es schon immer. Gilt für alle Kunstsparten. Man kann die MonaLisa generieren lassen, aber es gibt nur eine. Und wenn eine Software ein originäres Werk kreiert hat, dann ist es eben so. Wir müssen dann den Begriff des "Künstlers" erweitern um technische Systeme. Wer hat dann die Rechte? Können technische Systeme eine juristische Person sein?
Zitat von Dr.Faust im Beitrag #269Eine Geschichte: Eine intelligente Software steuerte die gesamte Ampelsystem einer Stand um den Verkehr zu optimieren. Die Software sagte auch die Anzahl der Unfälle und Verkehrstoten voraus. Als sie merkte gegen Abend, dass sie zu hoch lag mit den Vorhersagen, schaltete sie an wichtigen Kreuzungen mal ganz kurz alle Ampeln auf Grün, um auf die Zahlen zu kommen.
Ist das eine erfundene Geschichte?
Zitat von Dr.Faust im Beitrag #269Und wenn eine Software ein originäres Werk kreiert hat, dann ist es eben so. Wir müssen dann den Begriff des "Künstlers" erweitern um technische Systeme.
Schauen wir Mal wenn deine Programier-Berufung durch KI stark gefährdet ist. Dann ist es eben so
Kann der Chatbot mal meine neue Wärmepumpe anschließen?
Bzw. mein Dack ab- und eindecken?
Meine Hecke schneiden?
Das ist noch ein kleiner Lichtblick den ich beim Fortschritt der KI sehe. Vlt. besinnen sich viele Menschen wieder auf den Wert des körperlichen, schaffenden Handwerks. Viele notgedrungen, wenn KI vieles andere sowieso besser und schneller kann.
Ansonsten sehe ich eine extreme Herausforderung für die Menschen. Völlige digitale Entfremdung und Sinnlosigkeit. Tätigkeitslosigkeit für Milliarden. Stumpfsinn.
Instant gratification deluxe, dafür sind die horns nicht gemacht.
Zitat von Illuminatus im Beitrag #270Schauen wir Mal wenn deine Programier-Berufung durch KI stark gefährdet ist. Dann ist es eben so
Ist bereits so. Zumindest den langweiligen Krams kann das System. Wobei moderne Programmier- und Entwicklungsumgebungen einen schon sehr viel abnehmen.
Und es kann Musik komponieren, in einem Style, der für mich eher nach Mittelalter/Renaissance klingt: https://youtu.be/QiBM7-5hA6o
Ich habe fast darüber nachgedacht, ob man mit Hilfe der KI Musik erzeugen könnte, indem man Teile der KI-Musik remixt.
Wer versucht zu komponieren muss es ohnehin ertragen, dass es Genies vor ihn gab, die besser waren.
Künstliche Intelligenz hat übrigens viel mit Python zu tun.
Im Kölner Dom gibt es ein Fenster, das ein Künstler bereits mittels Computer entworfen hat...
Zitat von Fichtennadel im Beitrag #271Viele notgedrungen, wenn KI vieles andere sowieso besser und schneller kann.
Der Punkt ist doch der: Eine Hecke zu schneiden ist eine Aufgabe, die im Zweifelsfall jeder durchführen könnte.
ZitatVöllige digitale Entfremdung und Sinnlosigkeit. Tätigkeitslosigkeit für Milliarden. Stumpfsinn.
Zumindest im Kreativen Bereich sehe ich es derzeit nicht so schlimm
Ich schneide heute Hecke.... Sowas kann jeder,.. Blödsinn! Nur wenn du Fit genug bist.
Wer Eliza nicht kennt, hat sich auch nie mit Chatbots beschaftigt. Musik kann schon lange mit Computern komponiert werden, ist nicht neues.
Musiker sind besser geschützt als Graphiker. Wie es sich beim Programmierer auswirkt kann ich schlecht beurteilen. Ist halt blöd wenn die Kundschaft weg ist.
In meiner Stadt nehmen Gartenpflege-Klitschen 40€/Std. für‘s Heckeschneiden. Mit ungelernten Leuten. Manche werden auch vom Amt aufgestockt, den Mehrwert streicht der Chef ein.
Der Preis kommt zustande, weil es lange nicht mehr im Zweifel jeder könnte.
Es wird auch im „kreativen“ Bereich zuschlagen. KI kann kein schlechteres Drehbuch für Telrnovela oder ZDF-Herzschmerz schreiben als der Dreck der da jetzt per Formel fabriziert wird.
Ein Rezept für ein Waschmittelparfüm? Braucht man keinen Parfümeur mehr zu, macht der Bot.
Ein „Architektenhaus“-Entwurf? Bot. Jagt der Maurer durch die Software.
Zitat von Illuminatus im Beitrag #270Ist das eine erfundene Geschichte?
Ja natürlich, aus einer Sammlung utopischer Geschicten. Aber doch schon ziemlich lange her. Find es momentan nicht mehr. Früher hab ich das mit Begeisterung gelesen. Übrigens ich bin kein reiner Programmierer, eher "Systementwickler". Das ist ein langwieriger iterativer Prozess, übrigens auch mit Handwerk verbunden. Man muss Bauelement beschaffen, Prototyen bauen und umbauen. Und der Kunde weiß auch nicht genau, was er haben will. Nee so einfach ist das alles nicht.