spieleprogrammierer.de - Forum und Wiki zur Spieleprogrammierung und Spieleentwicklung

Ich muss sagen das ist ein echt interessanter Gedanke. Ich habe das Video noch nicht gesehen, aber zur Berufsethik würde ich gerne schonmal etwas beitragen:

Ich denke, dass Informatiker (und Ingenieure gleichermaßen) eine große Verantwortung tragen können, man denke vor allem an medizinische Anwendungen, dort ist es noch am offensichtlichsten.

Unser Vorteil gegenüber anderen Berufsgruppen ist jedoch, dass die Berufsethik durch das Aufstellen von Spezifikationen oft garnicht nötig ist. Man braucht keine Ethik um festzustellen was Richtig und was Falsch ist.. das steht in den Spezifikationen.

Wenn diese in der Anwendung nicht erfüllt werden hast du einen Fehler gemacht.

Problematisch wird es jedoch wenn alles nach Spezifikation funktioniert, die Anwendung dennoch nicht funktioniert. Also wenn die Spezifikationen fehlerhaft oder unvollständig sind, oder wenn die Spezifikationen garnicht genau definiert werden können.

Ein schönes Beispiel:
Die Entwicklung von Filtern für die Nachverarbeitung von Tomographie oder Röntgendaten, also in erster Linie zur Bildverbesserung.
Solche Filter werden immer Rauschen erzeugen, und das lässt sich nicht vorhersagen. Was ist jedoch wenn dieses Rauschen so ungünstig liegt, dass der Arzt nach der Bildverbesserung einen nicht-existierenden Tumor erkennt, den Patienten aufschnibbelt und eine Gewebeprobe entnimmt.

Sicher, davon wird er nicht sterben, jedoch ist auch der umgekehrte Fall möglich, dass ein Tumor o.Ä. garnicht mehr erkannt werden kann. Trägt man als Entwickler des Filters dann mit Schuld?

Zum Thema Veränderung:
Informatik und Technik hat schon sehr viel verändert. Manchmal muss sich auch garnicht viel in der Technik ändern sondern nur der Umgang damit (Web 2.0 z.B. ist technisch nix neues, macht aber einen riesigen Unterschied). Ich glaube gerade das Internet wird die nächsten Jahrzehnte für immer weitere Veränderungen in der Gesellschaft sorgen.

Das Internet ermöglicht ganz neue Kommunikationsmöglichkeiten, die gerade den jüngeren Teil der Gesellschaft stark beeinflusst.
Ein schönes Beispiel: China kriegt Probleme mit ihrer Zensurmauer und dem Informationsfluss nach draußen. Die Leute kommunizieren über das Internet, das kann auch China auf Dauer nicht verhindern, nur einschränken.

Ein schöner Vortrag zu dem Thema:
http://www.ted.com/talks/lang/eng/clay_shirky_how_cellphones_twitter_facebook_can_make_history.html

So als kleine Anmerkung ist dieses Thema sogar Teil des bwinf. In der Endrunde während der Einzelgespräche bekommt man z.b fragen wie :
"Wenn der Kommandant eines Kriegsschiffes aufgrund fehlerhafter Angaben seines Computers ein vermeintliches feindliches Flugzeug (in Wirklichkeit eine Passagiermaschine) abschießt, inwieweit ist dann der Programmierer für die Katastrophe verantwortlich?". Oder: "Angenommen, man könnte das komplette Gehirn eines Menschen ohne Veränderung der Persönlichkeit in ein Computersystem transformieren, fänden Sie solch ein Vorgehen moralisch bedenklich, akzeptabel oder würden Sie es begrüßen?" gestellt ..

grüße Toa

Ich denke, dass das in beinahe allen Berufsgattungen ein ähnliches Problem vorherrscht. Jeder Mensch macht Fehler. Ob Programmierer, Koch, Architekt usw. und manchmal kann es halt unter bösen Umständen und Verkettung von Zufällen so weit kommen, dass Menschen zu schaden kommen.

Wie viele Menschen sind schon an einer Lebensmittelvergiftung gestorben, weil die Prozesse beim Hersteller fehlerhaft waren? Wie viele Menschen sind aufgrund von falsch berechneten Daten auf Brücken, Häuser usw. gestroben? - Sind da jetzt die Köche und Architekten daran schuld?

Meiner Meinung nach nur, wenn jemand nachweisbar grob fahrlässig gehandelt hat und das sehe ich bei Software nicht anderst.

Ich denke über die Allgegenwart der Informatik muss nicht diskutiert werden. Die ist einfach Tatsache. Was die steuerbarkeit anbelangt, wage ich zu bezweifeln, dass das so einfach ist. Die Gesellschaft scheint ein Verlangen zur Verknüpfungen mit anderen Leuten zu haben und daher ist Facebook so beliebt. Es wäre kaum so bekannt geworden, wenn niemand das geringste Interesse gehabt hätte. Aufzwingen lässt sich so etwas halt einfach nicht und die Richtung, in die wir uns entwickeln ist für mich eher Chaos, als etwas gesteuertes.

naja, ich sehe die Sache mit der Berufsethik weniger bei den erwähnten Dingen - da stimme ich drakon mit der groben Fahrlässigkleit zu - als bei der Rüstungsindustrie und den Geheimdiensten: In wie weit kann/will ich es als Programmierer verantworten, eine software zu schreiben, die z.B. eine intelligente Bombe zum Ziel schickt? in wie weit bin ich moralisch verpflichtet, das NICHT zu tun? in wie weit kann ich es zum Schutz meines Landes, etc. doch tun?

Verantwortung hat jeder Entwickler für alles was er tut. Wäre ja noch schöner, wenn jeder rumwursteln könnte, wie er will ohne sich für Folgen verantwortlich zu fühlen ... wie nennt man diese Leute nochmal??? Achja: Manager und Börsianer!

Sicherlich ist nicht jede Art von Software zwangsläufig gefährlich oder hat direkte Auswirkungen mit fatalen Folgen. Ist man jedoch dabei in der Entwicklung von Hardware unterwegs, also echten Nutzobjekten wie Geräte, Maschinen, usw., dann steigt die Verantwortung des Entwicklers enorm. Deshalb sind auch solche Entwickler üblicherweise dem Ingenieur gleichgestellt. Sie sollten eine ingenieursmäßig Vorgehensweise haben, Kenntnisse über die dahinter stehende Technik, alle notwendigen Regeln der Softwarearchitektur, etwas Mathematik, Testphasen, Zertifizierung, die eingesetzten Systeme die auf diese Daten aufsetzen und sauberen/sicheren Programmierung einigermaßen beherrschen.

Ich habe selber in den letzten 8 Jahren in sochen Bereichen gearbeitet und fast jeder dieser Jobs kann indirekt üble Folgen haben. Manche evtl. nur finanziell (aber auch schon in Millionenhöhe) und manche auch mit Materiellen oder Persönlichen Schäden. Zum Glück habe ich ausreichend sauber gearbeitet, daß bisher in noch keinem meiner Progs Fehler aufgetaucht sind.

Ein Beispiel wäre z.B. die Entwicklung eines Fahrzeugstrang-Geometriegenerators. Dabei werden nach bestimmten technischen Parametern in CAD-Objekten die vollständigen Antriebsstränge mit allen notwendigen Teilen wie Kupplung, Getriebe, Differential, Gelenk-/Kardanwellen, Kreuzgelenke und Kraftverteiler vollautomatisch zum Teil aus vorhandenen Geometrien erzeugt und/oder paßt dieser z.B. nach Radstand, Motorlage, etc. entsprechend an. Diese Elemente werden nicht mehr vom Konstrukteur erzeugt, sondern nur noch die Eingabeparameter und die Wunschübertragungen angegeben und monatelange teure Schwerstarbeit wird damit in wenigen Sekunden vollautomatisch erledigt. Zum Schluß wird für die Freigabe noch die zugehörigen 2D-Konstruktionsableitungen mit Kommentaren und Bemaßung erzeugt.

Anbei bemerkt, habe ich bei Fehler aber keine direkte Verantwortung, da die letzliche Abnahme und Intensivtests durch die Konstrukteure mit Altdaten zum Vergleich vorgenommen wurden. Bis heute waren jedenfalls keine Korrekturen notwendig. Das Programm ist nun schon seit zig Jahren im Einsatz und die Fahrzeuge, die nach diesen Daten gebaut werden funktionieren einwandfrei und rollen schon eine Weile über die Straßen.

Was könnte bei einer Fehlberechnung oder Mängel in der Zeichnungsableitung oder Geometrieerzeugung passieren?

Nun ja, so ziemlich alles: Im besten Falle passen die Teile nicht zueinander und können nicht verbaut werden. Schlechter würde es aussehen, wenn Unwuchten die Elemente zu schnell verschleißen oder beschädigen. Im schlechtesten Fall verliert man den gesamten Getriebestrang mitten in der Fahrt oder kann das Fahrzeug wegen der ungleichen Kraftverteilung nicht mehr kontrollieren

Da fällt mir eine Mythbusters-Folge ein, in der ein Auto den Antriebsstrang direkt am Motor vorne verliert und dieser sich in einem Straßenloch verhakt. Bei entsprechend großer Geschwindigkeit macht man einen Salto nach dem gleichen Prinzip wie ein Sportler beim Stabhochsprung. :lol:

Zitat

durch das Aufstellen von Spezifikationen oft garnicht nötig ist

Ich kann auch mit Spezifikation schlampig arbeiten.

Zitat

aufgrund fehlerhafter Angaben seines Computers ein vermeintliches feindliches Flugzeug (in Wirklichkeit eine Passagiermaschine) abschießt

Tja, solche Sachen erinnern mich irgendwie an das Challenger-Unglueck. Im Endeffekt waren Manager verantwortlich. Auch kann ich nicht z.B. nicht verstehen, warum das Mautsystem auf Biegen und Brechen von Gehard Schroeder eingefuehrt wurde, ohne hinreichend getestet worden zu sein. Gab viel Aerger um die Software. Meist wird auf die Programmierer/Techniker/Ingenieure nicht gehoert.

Zitat

Auch kann ich nicht z.B. nicht verstehen

Du kannst es also nicht nicht verstehen? Schöne doppelte Verneinung.

Ne. Im Ernst. Es ist halt so, dass oft die Leute, die am wenigsten Ahnung haben den grössten Druck auf die Leute machen, die schlussendlich etwas bewerkstelligen.

Zitat von »"koschka"«

Hallo,
hat sich jemand von euch schon mal Gedanken drüber gemacht ob Informatiker, - Programmierer im weitesten Sinne Verantwortung für unserer Gesellschaft haben?
Um diese Themen möchte ich gern in einer offenen Diskussion mit euch reden.

Naja ich denke Informatiker haben nicht mehr oder weniger Verantwortung als andere Leute. Man kann in jedem Beruf richtig große scheisse bauen.
Dadurch das halt viel über Computer & Internet gesteuert wird ist halt die Gefahr von einem globalem "kollaps" groß. Wenn z.B. irgendein programmierer von eim Spiel so ein Bug reinbastelt das der Bug sämtliche Systeme lahmlegt, Hardware beschädigt oder Sicherheitslücken schafft. Ist aber auch sehr unwahrscheinlich.

Da ist es bei Wasser / Strom / Verkehr zwar ganz anders, aber deshalb darf da ja auch nicht jeder depp rumpfuschen und zum Glück leben wir noch nicht auf einer Welt wie in Stirb langsam 4.0. Ampeln werden nämlich Sicherheitstechnisch immer noch Hardwaremäßig geregelt - so ist eine grüne Welle von 2 kreuzenden fahrbahnen unmöglich. Da können die Informatiker soviel murksen wie sie wollen.
Bei Strom Wasser Gas Scheisse ist das ähnlich.
Fehler können natürlich immer auftreten, aber warum soll eine funktionierende Software plötzlich nicht mehr funktionieren? Ein Hardwarefehler der die Software beeinflusst find ich eher realistischer.

Zitat von »"koschka"«

Müssen Informatiker nach einer bestimmten Art "Berufsethik" handeln? Oder haben Informatiker im weitesten Sinne auch Macht über die Entwicklung unserer Gesellschaft? - Wie mächtig ist die Informatik heutzutage?

meiner Meinung nach sehr mächtig, aber das auch nur beschränkt (siehe oben). Letztens hab ich eine Dokumentation im Fernsehen gesehen. Ging darum das der 3. Weltkrieg im Internet anfängt.

Zitat von »"xardias"«

Unser Vorteil gegenüber anderen Berufsgruppen ist jedoch, dass die Berufsethik durch das Aufstellen von Spezifikationen oft garnicht nötig ist. Man braucht keine Ethik um festzustellen was Richtig und was Falsch ist.. das steht in den Spezifikationen.

Also würdest du alles, was in deinen Spezifikationen drinsteht, umsetzen, ohne es ethisch zu bewerten?? Z.B. die Steuerungssoftware für ein Atomraketenprogramm? Das erscheint mir doch etwas vorschnell formuliert.