Vierter Einwand – bitte nicht vermenschlichen

«Intelligenten Systemen» sollen keine menschlichen Eigenschaften zugewiesen werden

Sehr einleuchtend ist für die Betonung darauf, dass den computergesteuerten Systemen keine menschlichen Eigenschaften oder Charakterzüge zugewiesen werden sollen. Unabhängig davon, ob wir Menschen glauben, dass Bewusstsein zukünftig vollständig von Computern simuliert werden wird. Oder ob es in Zukunft, wie einige Quellen berichten, möglich wird, dass die Technologie unsere Gedanken versteht, bzw. dass wir mit unseren Geräten kommunizieren und sie mittels unseren Gedanken steuern können. Aber das Verhalten dieser Technologien kann nicht mit demjenigen von Menschen erklärt werden und sollte deshalb auch nicht mit uns verglichen werden. Der Versuch es trotzdem zu tun führt dann eben zu den Missvorstellungen über die Auswirkungen, die autonome und wahrscheinlich auch nur durch unsere Interpretation bösartig erscheinenden Systeme haben könnten. Dies ist aber dann (hoffentlich) doch eher der Stoff, aus dem Kinofilme entstehen.
Mit hoher Wahrscheinlichkeit werden die programmierten Simulationen zumindest laut Prognosen der Entwickler keine menschlichen Züge wie Wünsche und Überzeugungen besitzen. Obwohl man auch bei «einprogrammierten» Zielen nie genau weiss, was die Systeme daraus interpretieren werden. Es besteht immer das Risiko, dass das dann nicht im Einklang mit den Absichten der Menschen wäre. Auch ist das Argument, dass die Technologie in Händen mit böswilligen Absichten Verheerendes anrichten könnte, nicht zu vernachlässigen. Es scheint mir, dass von vielen Seiten her für zusätzliche Sicherheit plädiert wird, Trotzdem sollte die Anzahl laut eines Artikels auf 80000 Hours, einer altruistisch orientierten Organisation so schnell wie möglich verdoppelt werden. Neben diesen Forderungen entstehen zusätzlich auch Non-Profit-Organisationen wie die open source Plattform OpenAI. Die Überlegung dabei ist, dass, wenn mehr Leute Zugriff darauf haben, es für eine Partei schwerer würde, sie schädlich einzusetzen. Dies hört sich für mich aus einer subjektiv menschlich betrachteten Sichtweise logisch und vertrauenswert an. Aber da niemand im Moment genau einschätzen kann, wo die Grenzen des Möglichen der Maschinen-Intelligenz sind, ist es auch schwierig zu entscheiden, welche Sicherheits-Massnahmen dafür angemessen sind.

Einen sehr guten Überblick zu AI safety und auch Möglichkeiten, wie man selbst einen wertvollen Beitrag dazu leisten kann, gibt es auf 80000 Hours.

Welche zusätzlichen Anregungen in der Hinsicht habt ihr? Welche Fragen stellen sich euch für die zukünftigen Entwicklungen?

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s