Benutzerprofil von Karl

Der folgende fiktive Beitrag, offenbar initiiert durch die Vorgänge bei OpenAI, zeigt wohin der menschliche Hochmut über die angebliche eigene Überlegenheit, der nur Ignoranz widerspiegelt, führen kann.
 

Karl

@MarkusXP,

wir haben mit unserem Sohn ein Passwort verabredet.

Karl

Endlich wurde die sogenannte "Schutzsoftware" Cloudflare abgeschaltet und schon funktioniert der ST wieder.

Das freut mich natürlich,

Karl

Gut ausgewählt, lieber @schorsch. Deshalb hatte ich diesen Satz selbst auch bereits fett gedruckt.

Karl

Das wird einiges verändern.  Erinnert Euch die Stimme von ChatGPT 4o nicht an diejenige von "Her" im gleichnamigen Film?
 

Lieber @Achim1957,

ich antworte spät, "sorry" dafür. Ich gebe Dir Recht, denn es geht mir ähnlich. Ich möchte auf den sachlichen Dialog mit ChatGPT (inzwischen Version 4o) nicht mehr verzichten müssen. Ich verstehe die KI derzeit als einen Booster für meine eigenen bescheidenen Fähigkeiten.

Ich verbringe derzeit viel Zeit mit dem Lesen über KI, auch studiere ich täglich die Neuerungen bei den Modellen, die weltweit vorgestellt werden.

Insbesondere die Vorgänge bei Open AI erschüttern mich. Sam Altman wurde ja letzten Herbst vom Aufsichtsrat entlasten, dann aber mit Hilfe von Microsoft und einer meuternden Belegschaft wieder als Chef (CEO) eingesetzt und der Aufsichtsrat musste gehen.

Von Anfang an wurde gemunkelt, dass die Gründe etwas mit den Sicherheitsaspekten der KI-Modelle zu tun haben könnten. Dies hat sich letzte Woche bestätigt, als viele Mitglieder des Sicherheitsteams bei OpenAI gekündigt haben.

Hier sind die Gründe des Chefs des Sicherheitsteams, Jan Leike (Quelle: https://x.com/janleike/, eigene Übersetzung):

"Gestern war mein letzter Tag als Chef des Sicherheitsteams "Alignment, Superalignment" Lead und Executive @OpenAI

Es war eine so wilde Reise in den letzten ca. 3 Jahren. Mein Team hat mit InstructGPT das allererste RLHF-LargeLanguageModel eingeführt, die erste skalierbare Übersicht über LLMs veröffentlicht und Pionierarbeit bei der automatisierten Interpretierbarkeit und der Verallgemeinerung von schwacher nach starker KI geleistet. Weitere spannende Sachen kommen bald heraus.

Ich liebe mein Team.

Ich bin so dankbar für die vielen tollen Menschen, mit denen ich zusammenarbeiten durfte, sowohl innerhalb als auch außerhalb des Superalignment-Teams.

OpenAI verfügt über so viele außergewöhnlich kluge, freundliche und effektive Talente.

Von diesem Job zurückzutreten war eines der schwierigsten Dinge, die ich je getan habe, denn wir müssen dringend herausfinden, wie wir KI-Systeme viel intelligenter steuern und kontrollieren können als wir.

Ich bin beigetreten, weil ich dachte, dass OpenAI der beste Ort der Welt wäre, um diese Forschung durchzuführen.

Allerdings war ich mit der Führung von OpenAI schon seit geraumer Zeit anderer Meinung über die Kernprioritäten des Unternehmens, bis wir schließlich an einen Wendepunkt kamen.

Ich glaube, dass viel mehr unserer Bandbreite für die Vorbereitung auf die nächsten Generationen von Modellen aufgewendet werden sollte, für Sicherheit, Überwachung, Bereitschaft, Schutz, Robustheit gegenüber Gegnern, (Super-)Ausrichtung, Vertraulichkeit, gesellschaftliche Auswirkungen und verwandte Themen.

Es ist ziemlich schwierig, diese Probleme zu lösen, und ich mache mir Sorgen, dass wir nicht auf dem richtigen Weg sind, dorthin zu gelangen.

In den letzten Monaten ist mein Team gegen den Wind gesegelt. Manchmal hatten wir Probleme mit der Rechenleistung und es wurde immer schwieriger, diese wichtige Recherche durchzuführen.

Der Bau intelligenterer Maschinen als Menschen ist ein grundsätzlich gefährliches Unterfangen. OpenAI übernimmt im Namen der gesamten Menschheit eine enorme Verantwortung.

Doch in den letzten Jahren sind Sicherheitskultur und -prozesse gegenüber glänzenden Produkten in den Hintergrund getreten.

Es ist längst überfällig, dass wir uns ernsthaft mit den Auswirkungen von Allgemeiner Künstlicher Intelligenz (AGI) befassen. Wir müssen uns so gut wie möglich darauf vorbereiten. Nur dann können wir sicherstellen, dass AGI der gesamten Menschheit zugute kommt.

OpenAI muss ein sicherheitsorientiertes AGI-Unternehmen werden.

Allen OpenAI-Mitarbeitern möchte ich sagen: Lernen Sie, die AGI zu spüren. Handeln Sie mit der Ernsthaftigkeit, die dem entspricht, was Sie bauen. Ich glaube, dass Sie den notwendigen kulturellen Wandel „vermitteln“ können. Ich zähle auf dich. Die Welt zählt auf dich."

Mich erschreckt das.

Die kommerziellen Interesse scheinen die Sicherheitsaspekte bei OpenAI an den Rand zu drücken. Mich erschreckt das sehr, weil ich ahne, was mit KI auf uns zukommt und weiß, dass viele Menschen nicht wirklich wissen, was autonome KI, vor allem Allgemeine Künstliche Intelligenz, bedeutet.

Karl

@der-waldler führt einen freundlichen Dialog mit @Lenova46 und ich frage mich wirklich, warum sich @zaunkönigin, @elbling und @granka da einmischen müssen.

Dieses Muster der Streiterschaffung sehen wir öfters, auch in anderen Konstellationen. Unterhält sich jemand freundlich mit einer in einer Gruppe ungeliebten Person, fällt der/die jemand bei allen Mitgliedern der Gruppe ebenso in Ungnade.

Nervig. Vielleicht bräuchten wir weniger Krankenhäuser, wenn wir alle positiver und freundlicher, schlicht: entspannter denken würden.               

Karl

Ich freue mich, dass meine Corona Testbande schwächer wird und ich mich relativ gut fühle. Ärgern tut mich, dass im ST die Fehlermeldungen beim Wechseln von Seiten oder Absenden von Texten häufig bleiben (ich kopiere deshalb inzwischen alle Texte vor dem Senden routinemäßig). Ein Wechsel des Providers steht im Sommer an, hoffentlich wird es dann besser.

Karl

Guten Morgen @Pedro.

die Ausweisdaten wurden gelöscht. Nachts schlafen auch wir. 

Viel Glück mit Deiner Vermietung,

Karl

P.S.:  Glücklicherweise hast Du nur die Kopfseite der ID-Karte in 2D publiziert und die Sonderfeatures sowie die gesamte Rückseite blieben unsichtbar.

This week was a week with amazing new announcements in the field of AI. Open AI presented its new version ChatGPT4o (o stands for "omni" and means that the new ChatGPT can see, hear and talk).

I am really stunned by the progress made.
 

You get an idea of what is coming. Please notice the mentioning of the movie "Her" It will soon be reality.

Karl