Evernote und das Machine Learning

Evernote möchte Machine Learning einführen und dabei den Datenschutz über den Haufen werfen. Das ist freilich sehr überspitzt formuliert und entspricht nicht der Wahrheit. Aber so fühlt es sich eben an.

Was ist die Änderung?

Evernote möchte den Dienst und damit die User Experience mit dem Einsatz von Machine Learning verbessern. Ist erstmal eine gute Sache – die Frage ist nur, was ist dafür notwendig?

Aus Sicht von Evernote: Dass Mitarbeiter zur Optimierung stichprobenartig Einblick in „anonymisierte“ Notizen ihrer Nutzer schauen können.

Wer das nicht will, hat die folgenden Möglichkeiten:

• Opt-Out aus dem Machine Learning und Verzicht auf die möglichen Features, die das bringt
• Notizen verschlüseln
• Den Dienst künftig nicht mehr nutzen

Wo ist das Problem?
Aus meiner Sicht geht es nicht unbedingt um die Frage, ob die Mitarbeiter Gesetze einhalten oder nicht. Wenn ich mir diese Frage stelle, dürfte ich den Dienst auch jetzt schon nicht nutzen.

Viel mehr sehe ich das Problem in der schlechten Wahlmöglichkeit, der Art der Einführung (Opt-Out) und der fadenscheinigen Begründung.

Opt-Out: Der Nutzer wird’s schon in Ordnung finden

Nun gut: Viele von uns haben mittlerweile von Machine Learning gehört und wissen vielleicht sogar, dass damit ein Dienst im Sinne seiner Nutzer verbessert werden kann.

Für nicht-technische Nutzer (und auch für die) ist aber a priori nicht erkennbar, welcher Nutzen konkret für seine Nutzung von Evernote entsteht und ob diese den Zugriff auf seine Daten durch Evernote-Mitarbeiter rechtfertigt.

Warum es plötzlich in Ordnung sein soll, ein Feature mit zunächst mal unklarem Nutzen für den Benutzer über dessen Recht auf Datenschutz zu stellen ist mehr als fraglich. Implizit trifft Evernote damit die Annahme: Der Benutzer wird’s schon in Ordnung finden.

Schlechte Wahlmöglichkeit

Zumal die Wahlmöglichkeit sich nicht wirklich wie eine anfühlt.

Entweder verzichte ich auf Features, für die ich nicht weniger bezahle als andere Nutzer. Oder ich verzichte auf das, was für einen Dienst wie Evernote eigentlich selbstverständlich ist: dass die darin gespeicherten Daten im Regelfall nur von mir eingesehen werden.

Der Mittelweg – Datenzugriff durch Mitarbeiter auf das bisherige Niveau einzuschränken und trotzdem die neuen Features ausprobieren zu können – wird mir ohne nachvollziehbare Erklärung verwehrt.

Erklärungen? Fehlanzeige.

Braucht es wirklich alle Einkaufslisten, um in einer Einkaufsliste ein Muster zu erkennen?

Dabei fühlt sich die Begründung, wonach der Datenzugriff zwingend notwendig sei, irgendwie falsch an.

Ich sehe ein, dass maschinelles Jahren eine Supervision durch Menschen braucht, um wirklich effektiv zu sein. Mir erscheint auch der Ansatz (einzelne, randomisierte Samples von Nutzern durch Menschen überprüfen zu lassen) durchaus legitim. Hätte ich eine echte Wahlmöglichkeit, würde ich vielleicht sogar zustimmen.

Braucht es wirklich 10 Einkaufslisten, um ein Muster in einer Einkaufsliste zu erkennen? Würde es nicht reichen, wenn das System alle 10 Samples hat und der Data Scientist nur 9? Fragen, die bei Evernote lieber keiner beantwortet.

Die habe ich aber nicht. Lieber versucht man mir weiszumachen, dass der Data Analyst im Zweifel die Daten aller Nutzer einsehen können muss, wenn die Maschine anhand dieser Samples lernen können soll, was eine Einkaufsliste ist.

Warum versucht ihr nicht mal darzulegen, warum es besser ist, statt dem Nutzer verkürzte, höchstwahrscheinlich nicht mal zutreffende Informationen zu geben?

Eure Nutzer sind nicht dumm, sie wissen nur weniger als ihr.

Wir Nutzer sind nicht dumm.

Wir wissen nur über manche Dinge weniger als ihr.

Wenn ihr jetzt also die Begründung nachschiebt, dass Opt-Out nicht möglich sei, weil ihr euren Dienst dann nicht betreiben könnt, dann fühlt sich das wie eine Ausrede an.