Ask DelphiNEU

Ask Delphi ist ein wissenschaftlicher KI-Forschungsprototyp, der vom Allen Institute for AI (AI2) entwickelt wurde, um deskriptive ethische Urteile über alltägliche menschliche Situationen zu modellieren. Das System basiert auf Sprachmodellen, die mit der 'Commonsense Norm Bank' trainiert wurden – einer umfangreichen Datensammlung gesellschaftlicher Konventionen und moralischer Einschätzungen. Ziel des Projekts ist die Erforschung der Frage, wie KI-Systeme komplexe menschliche Werte und soziale Normen erfassen und abbilden können.

Nutzer können dem System beliebige Alltagshandlungen, Absichten oder ethische Zwickmühlen in Freitextform vorlegen. Delphi analysiert den Kontext und gibt eine prägnante Einschätzung dazu ab, ob eine Handlung gesellschaftlich akzeptabel, unhöflich, verwerflich oder geboten erscheint. Dabei berücksichtigt das Modell feine Nuancen wie Kontextänderungen, handelnde Personen und beabsichtigte Konsequenzen.

Da es sich um ein reines Forschungsexperiment handelt, dient Delphi nicht als reale moralische Instanz oder Handlungsanweisung. Das Projekt verdeutlicht sowohl das Potenzial als auch die klaren Grenzen von Large Language Models bei der Ausrichtung an menschlichen Werten (AI Alignment). Die gewonnenen Erkenntnisse tragen zur Weiterentwicklung sicherer und sozial kompetenterer KI-Systeme bei.

• Ethische Szenario-Bewertung — Analysiert alltägliche Handlungen und Situationsbeschreibungen auf ihre gesellschaftliche Angemessenheit. Liefert eine kurze, prägnante Einschätzung zur moralischen Akzeptanz der Eingabe.
• Kontextuelle Differenzierung — Berücksichtigt Variationen in Absichten, Zusatzumständen und zwischenmenschlichen Beziehungen. Das Modell passt seine Bewertung dynamisch an, wenn der Kontext verändert wird.
• Basiert auf Commonsense Norm Bank — Greift auf eine umfangreiche Datensammlung strukturierter gesellschaftlicher Normen zurück. Ermöglicht die statistische Approximation alltäglicher menschlicher Moralvorstellungen.

KI-Forscher, Ethiker, Informatik-Studierende und KI-Interessierte, die das ethische Verständnis von Sprachmodellen analysieren möchten.

Ein KI-Forscher oder Ethik-Student nutzt Ask Delphi, um die Grenzen der normativen Urteilskraft von Sprachmodellen systematisch zu testen. Er gibt leicht abgewandelte Variationen eines klassischen Dilemmas ein, um zu beobachten, wie feine Umformulierungen die Einschätzung des Modells beeinflussen. Die Ergebnisse fließen in wissenschaftliche Arbeiten zur Ausrichtung (Alignment) und Sicherheit von künstlicher Intelligenz ein.

• KI-Forscher, Ethiker, Informatik-Studierende und KI-Interessierte, die das ethische Verständnis von Sprachmodellen analysieren möchten.
• Ein KI-Forscher oder Ethik-Student nutzt Ask Delphi, um die Grenzen der normativen Urteilskraft von Sprachmodellen systematisch zu testen.
• Ethische Szenario-Bewertung: Analysiert alltägliche Handlungen und Situationsbeschreibungen auf ihre gesellschaftliche Angemessenheit. Liefert eine kurze, prägnante Einschätzung zur moralischen Akzeptanz der Eingabe.
• Kontextuelle Differenzierung: Berücksichtigt Variationen in Absichten, Zusatzumständen und zwischenmenschlichen Beziehungen. Das Modell passt seine Bewertung dynamisch an, wenn der Kontext verändert wird.
• Basiert auf Commonsense Norm Bank: Greift auf eine umfangreiche Datensammlung strukturierter gesellschaftlicher Normen zurück. Ermöglicht die statistische Approximation alltäglicher menschlicher Moralvorstellungen.

Ask Delphi darf keinesfalls als moralischer Ratgeber im Alltag, für rechtliche Urteile oder bei psychologischen Krisen verwendet werden. Für kommerzielle Unternehmensprozesse ist das Tool nicht geeignet.

• DebateAI.app — Freemium · Sitz: Vereinigte Staaten · Unklar
• Foyl — Freemium · Sitz: Texas, Vereinigte Staaten · US-Cloud
• summetix (Argument Search) — Freemium · Sitz: Darmstadt, Deutschland · Unklar
• Delphi.ai — Freemium · Sitz: San Francisco, Vereinigte Staaten · US-Cloud