Tico: Все сообщения за 27 Сентября 2020 года

 
ПнВтСрЧтПтСбВс
1 2 3 4 5 6
7 8 9 10 11 12 13
14 15 16 17 18 19 20
21 22 23 24 25 26 27
28 29 30

Tico

модератор
★★☆
☠☠
Статья на MIT Technology Review про OpenAI. Решл запостить после того, как прочитал об эксклюзивном контракте на права на GPT-3, заключённым с Microsoft.

The messy, secretive reality behind OpenAI’s bid to save the world

Every year, OpenAI’s employees vote on when they believe artificial general intelligence, or AGI, will finally arrive. It’s mostly seen as a fun way to bond, and their estimates differ widely. But in a field that still debates whether human-like autonomous systems are even possible, half the lab bets it is likely to happen within… //  www.technologyreview.com
 

Гугл-переводчик делает текст вполне читабельным.
Подразумевается, что AGI может легко выйти из-под контроля, если развитие технологии будет идти по пути наименьшего сопротивления. Узкий интеллект, неуклюжий ИИ, который нас окружает сегодня, уже послужил примером. Теперь мы знаем, что алгоритмы предвзяты и хрупки ; они могут совершать великие злоупотребления и большой обман ; а расходы на их развитие и управление имеют тенденцию концентрировать их власть в руках немногих. По экстраполяции, AGI может привести к катастрофе без осторожного руководства доброжелательного пастыря.
OpenAI хочет быть этим пастырем, и он тщательно создал свой имидж, чтобы он отвечал всем требованиям. В области, где доминируют богатые корпорации, она была основана как некоммерческая организация. В первом объявлении говорилось, что это различие позволит ему «повысить ценность для всех, а не для акционеров». Его устав - настолько священный документ, что заработная плата сотрудников зависит от того, насколько хорошо они его соблюдают, - далее провозглашает, что «основной фидуциарный долг OpenAI - перед человечеством». Безопасное достижение AGI настолько важно, продолжает он, что, если бы другая организация была близка к тому, чтобы сделать это первой, OpenAI перестанет конкурировать с ней и вместо этого будет сотрудничать. Этот заманчивый рассказ нравится инвесторам и СМИ, и в июле Microsoft вложила в лабораторию новый миллиард долларов.
Но три дня в офисе OpenAI и почти три дюжины интервью с бывшими и нынешними сотрудниками, соавторами, друзьями и другими экспертами в этой области - предполагают иную картину. Существует несоответствие между тем, что компания публично поддерживает, и тем, как она работает за закрытыми дверями. Со временем это привело к жесткой конкуренции и растущему давлению с целью еще большего финансирования, что разрушило его основополагающие идеалы прозрачности, открытости и сотрудничества. Многие из тех, кто работал или работал в компании, настаивали на анонимности, потому что они не имели права говорить или опасались мести. Их отчеты говорят о том, что OpenAI, несмотря на все свои благородные устремления, одержима сохранением секретности, защитой своего имиджа и сохранением лояльности своих сотрудников.
 
Mille viae ducunt homines per saecula Romam (C) Alain de Lille, Liber Parabolarum СССР был сложной наведённой галлюцинацией с ограниченным сроком годности. (c) МХ  80.0.3987.14980.0.3987.149

в начало страницы | новое
 
Поиск
Поддержка
Поддержи форум!
ЯндексЯндекс. ДеньгиХочу такую же кнопку
Настройки
Твиттер сайта
Статистика
Рейтинг@Mail.ru