Ethikrichtlinien in der Praxis (#43)

(English version)

Im letzten Post habe ich von neuen Ethikrichtlinien berichtet, die unsere Schwestergesellschaften in Deutschland (GI) und USA (ACM) aktualisiert haben. Jüngste Ereignisse bei grossen Internetfirmen zeigen, dass solche Ethikrichtlinien keine intellektuellen Turnübungen sind, sondern wichtige und notwendige Hilfestellungen für InformatikerInnen sein können. Beispielsweise werden InformatikerInnen vor die ethische Frage gestellt, ob sie mit ihrer Arbeit zu Systemen beitragen wollen, die Menschen töten bzw. das Töten von Menschen optimieren.

Continue reading

Advertisements
Posted in ethics | Tagged | Leave a comment

Ethics in Practice (#43)

(Deutsche Fassung)

In the last post, I reported on new ethic codes published by our sister companies in Germany (GI) and the US (ACM). Recent events in several large internet companies illustrate that such ethic codes may be actually relevant guidelines for computer scientists. For instance, computer scientists have been confronted with the question whether it is ethically legitimate to contribute to a system that will be used to kill people (or to optimize the killing of people)?

Continue reading

Posted in ethics | Tagged | Leave a comment

New Ethics Codes (#42)

(Deutsche Fassung)

“It is my understanding that when you have a serious ethical disagreement with an issue, your proper course of action is to resign”. This statement was made recently by a Google engineer who resigned because of an ethical conflict with one of his company’s projects (more about this and similar cases in the next post). IT and Ethics—many people would probably suspect that both have not very much to do with each other. In fact, however, IT ethics is currently a very hot topic, especially in the US. The new ethics codes by two professional societies—ACM und GI—thus probably just come at the right time. We, SI, want to follow and also update our ethics code.

Continue reading

Posted in Uncategorized | Leave a comment

Neue Ethikrichtlinien (#42)

(English version)

“Mein Verständnis ist, dass es die richtige Entscheidung ist zu gehen, wenn man einen grundlegenden ethischen Konflikt in einer Sache hat” (“It is my understanding that when you have a serious ethical disagreement with an issue, your proper course of action is to resign”). So wurde vor kurzem ein Google-Ingenieur zitiert, der aufgrund eines ethischen Konflikts mit bestimmten Projekten seiner Firma diese verlassen hat (mehr dazu und zu ähnlichen Fällen im nächsten Post). Informatik und Ethik—für viele Menschen hat das wohl wenig miteinander zu tun. Tatsächlich ist es gerade im Moment, v.a. in den USA, ein ganz heisses Thema. Passend dazu haben zwei Informatikgesellschaften—ACM und GI—ihre Ethikrichtlinien aktualisiert. Wir, die SI, wollen nachziehen und ebenfalls unsere Ethikrichtlinien überarbeiten.

Continue reading

Posted in ethics | Tagged , , , | Leave a comment

Wehret den Anfängen (#41)

Stellungnahme zum eidgenössischen Geldspielgesetz
der SI-Fachgruppe „Informatik und Gesellschaft“

Am 10. Juni entscheidet die Schweizer Stimmbevölkerung über das neue Geldspielgesetz. Dieses Gesetz führt Netzsperren ein, die durchsetzen sollen, dass BenutzerInnen nur noch die Online-Spielangebote inländischer Casinos nutzen. Das heisst, auf Anweisung des Bundes hin müssen Internet-Provider die IP-Adressen anderer Anbieter blockieren. Dies wird bei vielen NutzerInnen und netzpolitisch Engagierten als Schritt in Richtung Internetzensur empfunden, weshalb eine breite Allianz (z.B. von Jungparteien) das Referendum ergriffen hat.

In der Schweiz zugelassene Lotterien und Wettanbieter müssen Abgaben an die Kantone entrichten. Diese Abgaben werden für gemeinnützige Zwecke in den Bereichen Kultur, Soziales und Sport verwendet. 2016 betrugen diese Abgaben mehr als 600 Millionen Franken und man geht davon aus, dass durch andere Anbieter den Kantonen weitere 250 Millionen Franken an Abgaben entgehen.

Von Seiten der Befürworter des Geldspielgesetzes werden diese Abgaben und ihre gemeinnützige Verwendung in einer gleichermassen falschen und einfach zu widerlegenden Art und Weise verwendet, die an bewusste Täuschung grenzt. So wird z.B. auf Plakaten behauptet, Ausstellungen und andere kulturelle Veranstaltungen könnten wegen der ausbleibenden Abgaben nicht mehr stattfinden. In Rundbriefen von Sportverbänden wird behauptet, die Verbände könnten nicht mehr unterstützt werden.

Eine Ablehnung des Gesetzes würde jedoch lediglich bedeuten, dass der aktuelle Zustand bestehen bliebe. Würde dagegen das Marktortprinzip angewendet bzw. Konzessionen auch an andere Anbieter vergeben, könnten diese Abgaben sogar erhöht werden.

Dabei ist fraglich, ob sich durch die Netzsperren die Nutzung ungewollter Anbieter überhaupt verhindern lässt. Selbst in den Abstimmungsunterlagen wird zugestanden, dass Netzsperren ein unwirksames Mittel sind. Es braucht keine besonders detaillierten IT-Kenntnisse, um Netzsperren zu umgehen (z.B. durch Verwendung von VPNs).

Aus netzpolitischer Sicht sind die Netzsperren (und damit das Geldspielgesetz) aus folgenden Gründen höchst problematisch:

  • Wer garantiert, dass Netzsperren nicht auch für andere Zwecke wie z.B. die Blockierung von kritischen Medien und Organisationen eingeführt werden?
  • Werden als Nächstes Technologien und Konzepte zum Schutz der Privatsphäre (Verschlüsselung, VPNs, …) ebenfalls verboten, und sei es, um den Wirkungsgrad von Netzsperren doch noch zu verbessern?
  • Sie werden als beginnende Internetzensur gesehen. Die Schweiz verlöre die Legitimation, andere Länder für deren Blockierung von Teilen des Internets zu kritisieren.
  • Der Bund muss die durch die Implementierung von Netzsperren entstehenden Kosten der Internet-Provier ersetzen. Die Netzsperren werden also durch (unsere) Steuern bezahlt.
  • Andere Branchen könnten aus Gründen der Gleichbehandlung ebenfalls Netzsperren für ihren Bereich verlangen.

Aus diesen Gründen schliesst sich die SI-Fachgruppe „Informatik und Gesellschaft“ der Position fast aller Jungparteien, der Digitalen Gesellschaft und vielen weiteren an und empfiehlt die die Ablehnung des Gesetzes.


Andreas Geppert ( geppert | ett | acm dott org)

Posted in Uncategorized | 1 Comment

Die Rating-Gesellschaft (#40)

Im letzten philosophischen Stammtisch hat sich das Schweizer Fernsehen eines zentralen Aspektes der Digitalisierung angenommen. Unter dem Titel «Die Rating-Gesellschaft» (Erstausstrahlung 11. Februar 2018) diskutierten die Gäste verschiedene Aspekte der allseits um sich greifenden Bewertungskultur. Die vielleicht wichtigste Aussage sei hier gleich vorweggenommen: von Ratings, dem Zuteilen von Punktzahlen und Rängen, dem Einordnen in höhere oder niedrige Klassen sowie dem Zuweisen von Boni und Privilegien aufgrund dieser Einordnungen, sind wir alle betroffen. Das Nicht-Mitmachen wird aller höchstens zu einem schlechteren Rating führen (Du willst die App deiner Krankenkasse nicht installieren? Schade – dann bekommst du eben keinen Rabatt).
Indem wir selber Bewertungen abgeben, bereitwillig jede App installieren und ebenso bereitwillig den ‚Accept‘-Knopf betätigen, tragen wir dazu bei, das Datenvolumen, welches in die Scores und Ratings einfliesst, laufend zu vergrössern und zu verfeinern. Bewusst oder unbewusst, gewollt oder ungewollt – die Datenspur, die die meisten von uns hinterlassen ist immens.
Einmal erkannt, wie allumfassend bereits heute Entscheidungen mit Hilfe von Daten und Algorithmen getroffen werden, taucht sofort auch die Frage auf: «ist das denn wirklich so schlimm?» Was kann man dagegen haben, wenn die verfügbaren Informationen dazu verwendet werden, ein besseres Verhalten zu belohnen, respektive negatives Verhalten zu sanktionieren? Auch dieser Frage wurde am Stammtisch nachgegangen.
Wie immer, wenn die Diskussion an diesen Punkt kommt, hören wir «das mich-beeinflussen-solche-Ratings-eh-nicht». In der Sendung wird diese doch recht naive Position im Laufe der Diskussion korrigiert. Schliesslich ist die Erkenntnis, dass sich Verhalten früher oder später den Bewertungsdimensionen anpassen wird (what you measure is what you get) nicht ganz neu und die Vermutung, dass sich die Art und Weise, wie wir beurteilt werden, unweigerlich auf unsere Wahrnehmung und unser Verhalten auswirken wird, naheliegend.
Die Gäste sprechen in der verfügbaren Stunde ganz unterschiedliche Aspekte des Ratings an und die Einspielungen bieten zusätzliche beeindruckende Einblicke.
Bleibt die Frage, wie wir als Gesellschaft mit diesen neuen, nützlichen, beängstigenden und nicht mehr umkehrbaren Entwicklungen umgehen wollen. Dabei wird in der Diskussion auch deutlich, dass die Mitspieler gar nicht so einfach identifizierbar sind und die Programme, die unsere Daten auswerten, typischerweise zum Betriebsgeheimnis privater Unternehmen zählen. Welche Kriterien in diese Programme eingepflegt werden, um zu einem Rating zu gelangen, bleibt uns deshalb verborgen. Ob wir dies als Gesellschaft so «laufen lassen wollen» und welche Debatten wir in diesem Bereich führen werden, wird sich zeigen. Diesen Stammtisch sollten Sie sich aber unter keinen Umständen entgehen lassen: Der «Philosophische Stammtisch»: Die Rating-Gesellschaft.


Sabine Vargas ( vargass | ett | vpt dott ch)

Posted in commercial surveillance | Tagged , , | Leave a comment

The Spy on your Wrist (#39)

(deutsche Version)

It’s obvious that sharing data can reveal secrets. In extreme cases, the sharing of data can even turn out to be (potentially) life-threatening and reveal really secret stuff.

Continue reading

Posted in Uncategorized | 1 Comment