Künstliche Intelligenz und Effektiver Altruismus

28
Künstliche Intelligenz und Effektiver Altruismus Caspar Oesterheld Foundational Research Institute

Transcript of Künstliche Intelligenz und Effektiver Altruismus

Page 1: Künstliche Intelligenz und Effektiver Altruismus

Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute

Page 2: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 2

Die ethische Relevanz der Zukunft

Gegenwart – Direkt beeinflussbar

Vergangenheit – Sehr schwer zu beeinflussen

Zukunft

Page 3: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 3

Die ethische Relevanz der Zukunft

Page 4: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 4

Die ethische Relevanz der Zukunft

Page 5: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 5

Die ethische Relevanz der Zukunft

Page 6: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 6

Die ethische Relevanz der Zukunft

Page 7: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 7

Unabsehbarkeit der langfristigenKonsequenzen direkter Intervention

Daniel Dennett: Darwin‘s Dangerous Idea, p. 498

Page 8: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 8

„Poor Meat Eater“ und andere Probleme

• Mehr Fleischkonsum => mehr Tierleid• Überpopulation

Page 9: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 9

Evaluability Bias

Caviola et al. (2014): The evaluability bias in charitable giving. http://journal.sjdm.org/14/14402a/jdm14402a.pdf

„…the evaluability bias influences decision making in the context of charitable giving: people tend to have a strong preference for charities with low overhead ratios (lower administrative expenses) but not for charities with high cost-effectiveness (greater number of saved lives per dollar), because the former attribute is easier to evaluate than the latter.“

Page 10: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 10

Einfluss auf Institutionen

● Institutionen können im Angesicht von Black Swans in unserem Sinne re-evaluieren. ● Institutionen haben langfristigen Einfluss.

EA Institutionen Werte

Wildtierleid

Armut

Massentierhaltung

„Black Swans“

Page 11: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 11

Einfluss auf Institutionen • Regierungen• Allgemeine Bevölkerung• Andere wohltätige Organisationen• Unternehmen• Religionen?• Kultur• Künstliche Intelligenz

Page 12: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 12

Künstliche Intelligenz

Legg und Hutter (2007): Universal Intelligence: A Definition of Machine Intelligence. https://arxiv.org/abs/0712.3329

Künstlich = Von Menschen erstellt und kein Imitat natürlicher Lebewesen Intelligenz = Die kognitive Fähigkeit eines Agenten, in einer Vielzahl von Umgebungen Ziele zu erreichen

Page 13: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 13

Warum Künstliche Intelligenz

Page 14: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 14

Warum Künstliche Intelligenz

Page 15: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 15

Die Relevanz von Künstlicher Intelligenz im Vergleich zu anderen Institutionen

• Scope• Tractability• Neglectedness

Benjamin Todd (2014): Which cause is most effective? https://80000hours.org/2014/01/which-cause-is-most-effective-300/

Page 16: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 16

Künstliche Intelligenz – Scope

=> Langfristig ist der Einfluss von KI wahrscheinlich größer als der von Menschen

Page 17: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 17

Orthogonalität von „Intelligenz“ und Zielen

Intelligenz

Ziele

Menschen

„Büroklammer- Maximierer“

● Gute Nachricht: Mit unseren Zielen kompatible KI ist möglich. ● Schlechte Nachricht: Wenn man sich nicht darum bemüht, hat eine KI wahrscheinlich inkompatible Ziele.

Nick Bostrom (2012): The Superintelligent Will. http://www.nickbostrom.com/superintelligentwill.pdf

Page 18: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 18

Auch eine KI mit menschlichen Werten könnte schlecht sein...

Page 19: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 19

Auch eine KI mit menschlichen Werten könnte schlecht sein...

Evan G. Williams (2015): The Possibility of an Ongoing Moral Catastrophe. http://link.springer.com/article/10.1007/s10677-015-9567- 7

Page 20: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 20

Ziel-Erhaltung

Page 21: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 21

Künstliche Intelligenz – Tractability

Mnih et al. (2015)

Page 22: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 22

Künstliche Intelligenz – Tractability

EA Institutionen

Armut Massentierhaltung

Künstliche Intelligenz

Wildtierleid

Armut

Massentierhaltung …„Black Swans“

Brian Tomasik: International Cooperation vs. AI Arms Race. https://foundational-research.org/international-cooperation-vs-ai-arms-race/

Page 23: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 23

Machbarkeit

Technische Probleme der KI-Sicherheit: • Entscheidungstheorie• Maschinenethik• Stabile Selbstverbesserung

Nate Soares: A Guide to MIRI’s Research. https://intelligence.org/research-guide/

Page 24: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 24

Machbarkeit – Kooperation

Brian Tomasik: Gains from Trade through Compromise. https://foundational-research.org/gains-from-trade-through-compromise/

Page 25: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 25

Machbarkeit – Kooperation

Lukas Gloor (2016): Suffering-focused AI safety https://foundational-research.org/files/suffering-focused-ai-safety.pdf

Konsequenzen, die die meisten Menschen sehr schlecht finden

Hedonium

Florierendeposthumane Zivilisation

Brave new

world

Islamischer Staat

Page 26: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 26

www.openphilanthropy.org/focus/global-catastrophic-risks/potential-risks- advanced-artificial-intelligence/ai-timelines

• 10-20 Vollzeitstellen

• Gegenargument: „Um KI können und werden sich zukünftige Wissenschaftler kümmern.“

KI-Sicherheitsforschung als vernachlässigtes Feld

Page 27: Künstliche Intelligenz und Effektiver Altruismus

Caspar Oesterheld Foundational Research Institute 27http://www.overcomingbias.com/2010/06/near-far-summary.html

Warum die Zukunft als Ziel wohltätigen Handelns kontra-intuitiv ist?

Construal Level Theory

Page 28: Künstliche Intelligenz und Effektiver Altruismus

Weiterführende Ressourcen

E-Mail: [email protected]

Organisationen: Foundational Research Institute http://foundational-research.org/

Machine Intelligence Research Institute https://intelligence.org/ Future of Humanity Institute https://www.fhi.ox.ac.uk/

28Caspar Oesterheld

Foundational Research Institute