Interested Article - Юдковский, Элиезер

Элие́зер Шло́мо Юдко́вский ( англ. Eliezer S. Yudkowsky ; род. 11 сентября 1979) — американский специалист [ источник не указан 292 дня ] по искусственному интеллекту , исследующий проблемы технологической сингулярности и выступающий за создание дружественного ИИ . Ключевая фигура сообщества рационалистов .

Биография

Элиезер Юдковский родился 11 сентября 1979 года в семье ортодоксальных евреев .

Научные интересы

Юдковский — сооснователь и научный сотрудник Machine Intelligence Research Institute (MIRI) . Он — автор книги «Создание дружественного ИИ» , статей «Уровни организации универсального интеллекта» , «Когерентная экстраполированная воля» и «Вневременная теория принятия решений» . Его последними научными публикациями являются две статьи в сборнике «Риски глобальной катастрофы» (2008) под редакцией Ника Бострома , а именно «Искусственный интеллект как позитивный и негативный фактор глобального риска» и «Когнитивные искажения в оценке глобальных рисков» . Юдковский не обучался в вузах и является автодидактом без формального образования в области ИИ .

Юдковский исследует те конструкции ИИ, которые способны к самопониманию, самомодификации и рекурсивному самоулучшению ( ), а также такие архитектуры ИИ, которые будут обладать стабильной и позитивной структурой мотивации ( Дружественный искусственный интеллект ). Помимо исследовательской работы, Юдковский известен своими объяснениями сложных моделей на неакадемическом языке, доступном широкому кругу читателей, например, см. его статью «Интуитивное объяснение теоремы Байеса» .

Юдковский был вместе с одним из главных авторов блога (преодоление предубеждений). В начале 2009 года он участвовал в организации блога LessWrong , нацеленного на «развитие рациональности человека и преодоление когнитивных искажений». После этого Overcoming Bias стал личным блогом Хансона. Материал, представленный на этих блогах, был организован в виде цепочек постов, которые смогли привлечь тысячи читателей — см. например, цепочку «теория развлечений» .

Юдковский — автор нескольких научно-фантастических , рациональных рассказов, в которых он иллюстрирует некоторые темы, связанные с когнитивной наукой и рациональностью . В неакадемических кругах больше известен как автор фанфика « Гарри Поттер и методы рационального мышления » под эгидой LessWrong .

В начале 2020-х гг. начал публично выступать о высокой вероятности (англ.) . В опубликованной в марте 2023 года статье для Time он написал, что без маловероятного всемирного моратория на обучение общих ИИ-моделей умнее GPT-4 , который государства были бы готовы поддерживать силовыми методами (вплоть до уничтожения датацентров, отказывающихся соблюдать ограничения, даже если есть шанс конфликта между ядерными державами), человечество обречено . Вслед за ним похожее беспокойство начали высказывать два из трёх «крёстных отцов» искусственного интеллекта, Йошуа Бенжио и Джеффри Хинтон .

Сочинения

  • Our Molecular Future: How Nanotechnology, Robotics, Genetics and Artificial Intelligence Will Transform Our World by , 2002, p. 321.
  • The Spike: How Our Lives Are Being Transformed By Rapidly Advancing Technologies by , 2001, pp. 236, 265—272, 289, 321, 324, 326, 337—339, 345, 353, 370.
Академические публикации
  • Юдковский, Элиезер (2007). (PDF) . Artificial General Intelligence . Berlin: Springer.
  • Юдковский Э. // Global Catastrophic Risks (англ.) / под ред. Ника Бострома . — Oxford University Press, 2008. — P. 91-119. — ISBN 978-0199606504 .
  • Юдковский Э. // Global Catastrophic Risks (англ.) / под ред. Ника Бострома . — Oxford University Press, 2008. — P. 308-345. — ISBN 978-0199606504 .
  • Юдковский, Элиезер (2011). (PDF) . Artificial General Intelligence: 4th International Conference, AGI 2011, Mountain View, CA, USA, August 3–6, 2011 . Berlin: Springer.
  • Юдковский Э. // (англ.) / под ред. Аммона Эдена, Джеймса Мура, Джона Сёракера. — Берлин: Springer, 2012. — P. 181-195. — (The Frontiers Collection). — ISBN 978-3-642-32559-5 . — doi : .
  • Юдковский Э. (англ.) . — 2013.
  • Бостром, Н. , Юдковский Э. // The Cambridge Handbook of Artificial Intelligence (англ.) / под ред. Кита Франкиша и Уильяма Рамси. — Нью-Йорк: Cambridge University Press, 2014. — ISBN 978-0-521-87142-6 .
  • LaVictoire, Patrick; Fallenstein, Benja; Юдковский, Элиезер; Bárász, Mihály; Christiano, Paul; Herreshoff, Marcello (2014). . Multiagent Interaction without Prior Coordination: Papers from the AAAI-14 Workshop . AAAI Publications.
  • Соарес, Нейт; Fallenstein, Benja; Юдковский, Элиезер (2015). (PDF) . AAAI Workshops: Workshops at the Twenty-Ninth AAAI Conference on Artificial Intelligence, Austin, TX, January 25–26, 2015 . AAAI Publications.
  • Юдковский Э. , Соарес, Н. (англ.) . — 2018.
Статьи на русском

Примечания

  1. Russell, Stuart. Artificial Intelligence: A Modern Approach / Stuart Russell, Peter Norvig . — Prentice Hall, 2009. — ISBN 978-0-13-604259-4 .
  2. Leighton, Jonathan. The Battle for Compassion: Ethics in an Apathetic Universe. — Algora, 2011. — ISBN 978-0-87586-870-7 .
  3. . LessWrong . Дата обращения: 31 мая 2021. 2 мая 2021 года.
  4. Ray Kurzweil . The Singularity Is Near (неопр.) . — New York, US: Viking Penguin , 2005. — С. 599. — ISBN 0-670-03384-7 .
  5. от 19 ноября 2018 на Wayback Machine , 2001
  6. от 13 декабря 2018 на Wayback Machine , 2002
  7. от 30 сентября 2015 на Wayback Machine , 2004
  8. от 17 ноября 2014 на Wayback Machine , 2010
  9. . Accelerating Future. Дата обращения: 15 ноября 2010. Архивировано из 4 декабря 2010 года.
  10. . Singularity Institute for Artificial Intelligence. Дата обращения: 28 июля 2009. Архивировано из 2 марта 2013 года.
  11. . Singularity Institute for Artificial Intelligence. Дата обращения: 29 октября 2018. Архивировано из 7 мая 2015 года.
  12. (англ.) / Bostrom, Nick . — Oxford, UK: Oxford University Press , 2008. — P. —119, 308—345. — ISBN 978-0-19-857050-9 .
  13. . The Podcast Network. Дата обращения: 26 июля 2009. 17 июля 2007 года.
  14. . Дата обращения: 15 ноября 2010. 16 ноября 2013 года.
  15. . Дата обращения: 2 сентября 2012. 19 января 2013 года.
  16. . Дата обращения: 15 ноября 2010. 4 июля 2014 года.
  17. . Дата обращения: 11 мая 2012. 12 мая 2014 года.
  18. . LessWrong . Дата обращения: 18 мая 2023. 17 мая 2023 года.
  19. . Time . Дата обращения: 15 апреля 2023. 2 апреля 2023 года.
  20. . Дата обращения: 28 мая 2023. 26 мая 2023 года.
  21. . CBS News . Дата обращения: 15 апреля 2023. 15 апреля 2023 года.

Ссылки

  • — «A community blog devoted to refining the art of human rationality» founded by Yudkowsky.
  • at the Quantum to Cosmos Festival, with , , Cory Doctorow
  • Ben Goertzel. // Journal of Evolution and Technology. — 2015. — Vol. 24, no. 2. — P. 55—87.
  • Фанфик (перевод: )
Источник —

Same as Юдковский, Элиезер