Gefahr für Google? (ChatGPT)

[staticweb]

> Stimmt auch wieder. Dazu müsste man die Veröffentlichung ja zeitlich steuern können müssen und das wäre voll krass Sience Fiction

Da fehlen jetzt die Ironie Tags.

[supervisior]

> Stimmt auch wieder. Dazu müsste man die Veröffentlichung ja zeitlich steuern können müssen und das wäre voll krass Sience Fiction

Da fehlen jetzt die Ironie Tags.

Code: Alles auswählen

IRONIE ON

Male Dir welche.

Code: Alles auswählen

IRONIE OFF

[staticweb]

> Da muss vermutlich der Gesetzgeber eingreifen und die Möglichkeiten der KI beschränken, sonst bekommen wir die totale Überwachung, Wahlmanipulation und Gehirnwäche gratis frei Haus und merken es erst, wenn die Demokratie weg ist.

Fang besser nicht mit politischen Konsequenzen in diesem Thread an, sonst wird er am Ende gelöscht. Und wenn du dich vorher mal richtig umgeschaut hättest, dann wäre dein Schlusssatz auch anders ausgefallen.

[supervisior]

Ich versuche mal die letzten Kommentare zusammen zu fassen und glaube damit den letzten Kommentaren zu entsprechen?

KI mag sich in vielerlei Hinsicht als vorteilhaft zu erweisen, aber nur augenscheinlich. Es kommt jedoch auf den Blickwinkel an. Wäre ich nur der "dumme" Nutzer, wäre mir vermutlich jegliche Kritik an KI, allen voran bei der klassischen Suche, schnurz piep egal, wobei das egal sein von der Intelligenz des Nutzers abhängt. Wenn man die Quelle und die Qualität eines KI-getriebenen Suchergebnisses nicht in Frage stellt, geschweige man den hinterfragt, ob die Auskünfte objektiv und neutral sind, mag eine KI-Suche für den "dummen" Nutzer sicherlich vorteilhaft sein. Was der erneut "dumme" Nutzer nicht berücksichtigt, ist dass sich das Suchergebniss sich relativiert. Will heißen, je mehr der Content des Gesuchten dem Gefragten entspricht, je mehr erhält der Suchende ein Ergebnis gemäß seiner Suchanfrage. Der Hugo entschließt sich jeglicher Bewertung, ob das Gesuchte nun ""gut" oder schlecht" ist. Ob das nun der Fall ist oder nicht, würde eine erst weiterführende Diskussion mit Hugo zu Tage bringen, wobei, und das gilt es hervorzuheben, Hugo entscheidet nicht, weil dieser eine persönliche Meinung oder eine Einstellung hat, sondern weil er sich maßgeblich an der Menge an Meinungen anderer orientiert.

Genau darin liegt aber die Gefahr. Wenn die Qualität nachrangig ist und nur die Menge entscheidet was die KI meint das Richtige richtig zu sein, umso mehr wird das vermeintlich Richtige verfälscht.

Ich erlaube mir mal vermessend zu sein und unterstelle mind. 98% der Bevölkerung sagen wir mal eine gewisse Ignoranz. Ignoranz im Sinne von, verstehe ich nicht, das ist mir zu kompliziert, scheiß auf Demokratie oder was kümmert mich die Meinung anderer.

Letzlich bildet aber die Menge an "Ignoranten" die Mehrheit. Letztendlich sind es aber Mehrheiten, die über die mehrheitliche politische Gesinnung und somit an Führung und Entscheidung in unserem Land entscheiden. Mal ehrlich, und wenn man noch so sehr der demokratischen Gesinnung folgt, wer will dieser dummen Mehrheit folgen geschweige denn Verantwortung übergeben?

Ich zumindest nicht!

[staticweb]

> Hugo entscheidet nicht, weil dieser eine persönliche Meinung oder eine Einstellung hat, sondern weil er sich maßgeblich an der Menge an Meinungen anderer orientiert.

Die KI lebt von Ihren Trainingsdaten und da gibt es ein sehr hohes manipulatives Potential. Dazu kommt , dass wie aktuell mehr oder weniger ein KI-Monopol haben, wenn wir es im öffentlich verfügbaren und qualitativen Kontext sehen. Und über ein KI-Oligopol wird es wohl in der nächsten Zeit auch nicht hinausgehen.

[supervisior]

Die KI lebt von Ihren Trainingsdaten und da gibt es ein sehr hohes manipulatives Potential. Dazu kommt , dass wie aktuell mehr oder weniger ein KI-Monopol haben, wenn wir es im öffentlich verfügbaren und qualitativen Kontext sehen. Und über ein KI-Oligopol wird es wohl in der nächsten Zeit auch nicht hinausgehen.

Also Qualität ist schon mal relativ, wobei dein Kommentar im Grunde bestätigt, was ich mit vielen Worten versucht habe auszudrücken. Eine Qualität gibt es bei der jetztigen Form der KI nicht, weil, wie bereits erwähnt, der Hugo keine eigene Meinung hat, geschweige denn haben kann. Was er maximal macht, ist aus der Menge an Trainingsdaten und der darin enthaltenen Informationen einen mehrheitlich geprägten Informationsstand zu bilden. Will heißen, wenn z.B. 7 von 10 Quellen den gleichen Wortlaut haben, dann erkennt der Hugo darin, dass es wohl so ist wie diese 7 Quellen meinen. Oder ganz anders formuliert, wenn es 10 Quellen gibt und 7 davon beschreiben, dass die Erde eine Scheibe ist, dann ist Scheibe "true" und Kugel "false". Hugo ist also maxmimal empfänglich für Manipulation jeder Art, weil er den Wahrheitsgehalt nicht verifizieren kann. Mit Intelligenz hat das nach menschlichen Gesichtspunkten wenig bis gar nichts zu tun.

[staticweb]

> Hugo ist also maxmimal empfänglich für Manipulation jeder Art, weil er den Wahrheitsgehalt nicht verifizieren kann.

Da wäre ich mir in diesem speziellen Fall nicht sicher. Wenn weiteres physikalisches und astronomisches Grundwissen zur Verfügung steht dann sollte die KI schon Zweifel an dieser Behauptung anmelden können.

[Hanzo2012]

Hugo ist also maxmimal empfänglich für Manipulation jeder Art, weil er den Wahrheitsgehalt nicht verifizieren kann. Mit Intelligenz hat das nach menschlichen Gesichtspunkten wenig bis gar nichts zu tun.

So wie Nordkoreaner? Von klein an kriegen sie die Propaganda ("Trainingsdaten") eingetrichtert, und haben auch kaum Zugriff auf freie Informationen.

[supervisior]

> Hugo ist also maxmimal empfänglich für Manipulation jeder Art, weil er den Wahrheitsgehalt nicht verifizieren kann.

Da wäre ich mir in diesem speziellen Fall nicht sicher. Wenn weiteres physikalisches und astronomisches Grundwissen zur Verfügung steht dann sollte die KI schon Zweifel an dieser Behauptung anmelden können.

Solange der Hugo nicht in der Lage ist die Daten zu verifizieren, kannst Du den Hugo mit noch so viel astronomischem Wissen ausstatten. Es ändert nichts an der Grundproblematik.

[supervisior]

Hugo ist also maxmimal empfänglich für Manipulation jeder Art, weil er den Wahrheitsgehalt nicht verifizieren kann. Mit Intelligenz hat das nach menschlichen Gesichtspunkten wenig bis gar nichts zu tun.

So wie Nordkoreaner? Von klein an kriegen sie die Propaganda ("Trainingsdaten") eingetrichtert, und haben auch kaum Zugriff auf freie Informationen.

Etwas makaber der Vergleich, aber im Grunde genommen richtig.

[supervisior]

Nur falls das noch keiner mitbekommen haben sollte: https://www.spiegel.de/netzwelt/netzpol ... 5c2603c15f

[staticweb]

> Nur falls das noch keiner mitbekommen haben sollte: https://www.spiegel.de/netzwelt/netzpol ... 5c2603c15f

Wer liest denn den Spiegel?

Um es kurz zu machen. Das Ende wird sein. dass man über VPN oder die API auf OpenAI zugreifen wird. Diese Einschränkungen kann sich geschäftlich niemand leisten, wenn er technologisch und wirtschaftlich mithalten will.

[supervisior]

Um es kurz zu machen. Das Ende wird sein. dass man über VPN oder die API auf OpenAI zugreifen wird. Diese Einschränkungen kann sich geschäftlich niemand leisten, wenn er technologisch und wirtschaftlich mithalten will.

Neeeh, leg dich doch nicht immer gleich so endgültig fest. Für mich bedeutet das zunächst mal, dass zumindest der Datenschutz mitbekommen hat, dass mit KI nicht alles Friede Freude Eierkuchen ist und das m.E. zurecht. Was die letztendlichen Konsequezen sein werden, wird sich zeigen.

[staticweb]

> Neeeh, leg dich doch nicht immer gleich so endgültig fest.

Doch, weil es so kommen wird.

Es gibt sicher viele Interessengruppen die in der KI eine große Gefahr für die eigenen geschäftlichen Strategien und Ziele sehen. Allen voran Google. Da kommt der DS gerade recht.

[supervisior]

> Neeeh, leg dich doch nicht immer gleich so endgültig fest.

Doch, weil es so kommen wird.

Es gibt sicher viele Interessengruppen die in der KI eine große Gefahr für die eigenen geschäftlichen Strategien und Ziele sehen. Allen voran Google. Da kommt der DS gerade recht.

Ich würde Dir uneingeschränkt zustimmen, wenn es hier um z.B. irgendwelche Streaming Angebote oder ähnliches gehen würde. Das Problem mit dem Datenschutz hat aber nicht nur die 2 Seiten des Datenschutz, sondern darüber hinaus. Zum einen geht es um die besagten Testdaten, worüber wir vorausgehend schon diskutiert hatten. Diese Diskussion hatte zwar nicht unmittelbar was mit Datenschutz zu tun, aber es ging grundlegend darum, woher der Hugo seine Testdaten bezieht, bzw. daraus lernt. Wobei der Hugo ja nicht nur die Testdaten verwendet, die ihm der Bing Bot beschafft hat. Es geht auch um die Daten, die Hugo während eines Chats erhält. Wenn ich so lese, was dem Hugo alles an mitunter auch sensiblen und privaten Daten zur Verfügung gestellt wird, bekomme ich das kalte Grauen.

Anyway, es geht auch darum, was der Hugo alles darf und was er ggf. nicht darf. Im Moment scheint er (noch) keine Regulierung zu kennen. Die aufgezeigten, aber nur ansatzweise angedeuten Probleme lassen sich nicht über VPN oder API lösen. Es braucht unweigerliche eine systemische Kontrolle/Beschränkung und das gilt nicht nur für die Testdaten, sondern auch dafür, was der Hugo so an kritischen Informationen ausspuckt/ausspucken darf.