Der letzte Tag der CHI startete für mich mit einer Paneldiskussion darüber, wie sich Menschen mit Hilfe des “gesunden Menschenverstandes” intelligente Systeme erklären, die auf Algorithmen basieren. Konkret ging es in der Diskussionen um Volksweisheiten (Folk Theories), also weitverbreitete und allgemein anerkannte Theorien über die Funktionsweise von komplexen und schwer verständlichen Themen, die meist nicht der tatsächlichen Funktionsweise entsprechen. Volksweisheiten basieren meist auf Heuristiken, die aus Beobachtungen abgeleitet wurden. Sie beschreiben weitverbreitete mentale Modelle, welche viele Menschen von der Funktionsweise komplexer intelligenter Systeme haben und anwenden.
Das Thema wurde von Michael DeVito, Jeffrey Hancock, Megan French, Jeremy Birnholtz, Judd Antin, Karrie Karahalios, Stephanie Tong und Irina Shklovski diskutiert.
Facebook is listening to you all the time to make recommendations. – Volksweisheit zu Facebook
Systeme, die auf Algorithmen und künstlicher Intelligenz basieren, sind in ihrer Verhaltensweise so komplex zu verstehen, dass sich selbst die Architekten und Designer dieser Systeme schwer tun, deren Funktionsweisen vollständig zu verstehen und zu erklären. Beispielsweise entstehen selbst bei Facebook intern Volksweisheiten darüber, wie der News Feed wirklich funktioniert.
Ein anderes Beispiel: Viele Airbnb-Anwender verändern den Titel ihres Eintrages jeden Tag, weil sie glauben, dass sie damit ihren Eintrag noch oben bringen können. In Wirklichkeit hat das aber gar keinen Einfluss auf die Positionierung des Eintrags.
You can’t understand how everything works.
Volksweisheiten verbreiten sich sehr schnell, weil Menschen stolz darauf sind etwas Komplexes verstanden zu haben oder weil es erschreckend bzw. begeisternd ist. Ob diese dann richtig oder falsch sind spielt keine wirkliche Rolle.
Volksweisheiten beeinflussen nicht nur das Verständnis bzw. die Interaktion mit intelligenten Systemen, sie beeinflussen auch die Adoption von neuen Produkten / Technologien erheblich. Außerdem können sie dazu führen, dass Anwender ihre Zeit für sinnlose Tätigkeiten verschwenden.
Unternehmen, deren Produkte auf intelligenten Technologien basieren, erklären in der Regel wenig darüber, wie ihre Algorithmen funktionieren. Eine hohe Transparenz zur genauen Funktionsweise ist meist nicht gewünscht (Geistiges Eigentum, Wettbewerbsvorteil, Profit, Vermeidung von Missbrauch) oder auch nicht möglich (Unternehmen wissen selbst nicht genau, wie das intelligente System im Detail funktioniert). Anwendern bleibt also oft nichts anderes übrig, als intelligente Systeme zu beobachten und auf dieser Basis Volksweisheiten zu entwickeln.
Bei der Gestaltung von intelligenten Systemen sollte die Frage betrachtet werden, welche Volksweisheiten sich Anwender zurechtlegen, um die Funktionsweise eines intelligenten Systems zu erklären. Das intelligente System sollte so gestaltet sein, dass Anwender mentale Modelle bzw. Volksweisheiten entwickeln, die für beide Seiten fair und nützlich sind. Also Menschen dabei hilft das nötige und ein nützliches Verständnis zu einem intelligenten System zu entwickeln sowie Unternehmen dabei hilft ihre unternehmerischen Ziele zu erreichen. Weiterhin ist es für beide Seiten hilfreich regelmäßig zu überprüfen welche Volksweisheiten entstanden sind und angewendet werden.
Dieser Gestaltungsprozess ist ein Balanceakt. Es ist nicht damit getan, einfach umfangreich zu erklären und komplett offenzulegen, wie ein intelligentes System funktioniert. Es geht darum das System so einfach wie möglich zu erklären ohne dabei relevante Aspekte zu unterschlagen. Es geht darum die Interessen der Anwender und des Unternehmens in Balance zu bringen.
People don’t read. Most People don’t want to set up hundreds of control features.
