[image]

Искусственный Интеллект и социальные нормы

 
1 2 3 4 5 6 7
LT Bredonosec #05.11.2018 20:01  @Татарин#05.11.2018 14:40
+
-
edit
 
Татарин> Причём, это хотя и кажется фантастикой, это таки хардкорная фантастика весьма ближнего прицела.
и даже не фантастика....
Ну, фантастика отчасти, в плане того, что всё ии сам делает.
А вот что неочевидные вещи влияют на жисть, и ты видишь только результат, и только в негативном плане - это вовсю есть.
Описывал уже: устраивался как-то в банк, первое собеседование с HR - всё ок. Второе собеседование с начотдела - всё ок, вы нам подходите. А потом бац - и приходит на мыло уведомление "вы не подошли".
Что, почему - хз. Потом от приятеля, там работающего, узнал, что они попутно звонят на прежнюю работу поинтересоваться. А кадровичка тогдашней работы на меня зуб имеет, что не сумела несколькими годами ранее развести на статью, и более того, вынуждена была тогда заткнуться, бо у меня появился компромат, чтоб её и заодно всё руководство под статью подвести. Соответственно, как понял, после разговора с ней всё обломалось.
Вот не узнал бы - тоже думал бы, что "само так".
   26.026.0
US Сергей-4030 #05.11.2018 21:55  @Татарин#15.10.2018 01:09
+
+1
-
edit
 

Сергей-4030

исключающий третье
★★
кщееш>> вывод у машины был правильный.
Татарин> Ты этого не знаешь.
Татарин> Это главная проблема глубокого обучения в сложных областях. Ты кормишь машину данными, она даёт тебе результат, и ты не знаешь, верен ли он. Можешь лишь сверять со своими ощущениями. Но даже если машина даёт что-то, что совпадает с твоими ощущениями, это нихрена не значит, что машина выдала что-то верное. :)

Ну, что значит "со своими ощущениями"? Ты же какие-то задачи решаешь, соответственно можешь увидеть, стало ли решение более эффективно.

Скажем, я последние два месяца занимаюсь machine learning торговли на биржах. Начал просто чтобы познакомиться с методами, потом увлекся. Два компьютера дома постоянно модели считают, надо еще пару прикупить. Кстати, уже начинаются проблемы теплорегуляции, в кабинете жарко как из ружья. :)

Но я отвлекся. Идея вот в чем - сравнивая результаты, которые я достигаю с использованием выводов machine learning vs моих собственных глубоких раздумий, результат абсолютно очевидный. Почти все мои решения приводят к убыткам. Особенно это явно, если учесть обвалы на рынках последнего месяца. Может на растущем рынке это было бы OK, а на падающем - я на всех акциях прогорел.

А вот используя программу - практически никогда я не в минусе. Каждый день что-то около 0.3-0.4 процента в прибыль. Немного, но стабильно. Интересно, что программа выбирает всякие странные акции, которые я бы сам в жизни не стал покупать. Чаще всего она выбирает ETF, производные бумаги по такой-то отрасли. Они как правило с одной стороны всегда имеют 1-2% волатильности в течении дня, а с другой - почти никогда не падают очень сильно, типа на 30%.

И при том, что мои методы наверняка куда более топорные, чем у профессиональных трейдеров. И, конечно, я совершенно не знаю, по какому принципу машина отбирает. Следить за ее матрицей коэффициентов для человека - безнадежное дело. Но результат очевидно говорит о том, что она работает в плюс.
   70.0.3538.7770.0.3538.77
06.11.2018 05:16, кщееш: +1
US Сергей-4030 #05.11.2018 22:12  @Сергей-4030#05.11.2018 21:55
+
-
edit
 

Сергей-4030

исключающий третье
★★
Сергей-4030> Ну, что значит "со своими ощущениями"? Ты же какие-то задачи решаешь, соответственно можешь увидеть, стало ли решение более эффективно.

Конечно, что-то оценить легче, что-то сложнее. Но если ты видишь, что текучка стала меньше, негативных отзывов о работниках меньше и т.п. - значит твой алгоритм для отдела кадров работает правильно.
   70.0.3538.7770.0.3538.77
EE Татарин #06.11.2018 03:07  @Сергей-4030#05.11.2018 22:12
+
+4
-
edit
 

Татарин

координатор
★★★★★
Сергей-4030>> Ну, что значит "со своими ощущениями"? Ты же какие-то задачи решаешь, соответственно можешь увидеть, стало ли решение более эффективно.
Сергей-4030> Конечно, что-то оценить легче, что-то сложнее. Но если ты видишь, что текучка стала меньше, негативных отзывов о работниках меньше и т.п. - значит твой алгоритм для отдела кадров работает правильно.

Не всегда.
Если машина успешно решила ансамбль из n задач, правда ли, что она успешно решит n+1..ую? А именно отличающийся n+1..й случай может оказаться критичным для успеха Скажем, на примере с акциями - успешно торговал по мелочи хай-течными акциями и тут решил наварить более, добавил в систему денег, а она закупила на все акции Энрона перед банкротством. Ну или с подбором кадров: подбирала, скажем, машина работников в Гваделупе тестом на английском и вывела у себя корреляцию качества человека со знанием английского. Переносим действие машины в США, и... пошла жесть потоком. К моменту, когда ошибка будет обнаружена, проблемы могут оказаться смертельными для конторы.

Машина же она предсказывает не будущее. Прошлое. Исходя из предположения, что будущее - такое же, как и прошлое, только ещё не случилось. А ещё тут и проблема эргодичности в полный рост и ещё куча подобных заморок.

...
И вот ты в какой-то момент времени встаёшь перед задачей, где требуется одиночное, но верное решение. Одно. Но верное. И ставки единичных ошибок высоки - жизнь человека, например. А ситуация - неопределенно изменилась (она всегда меняется, и часто неопределенно).

У меня сейчас в задачах в чём-то схоже... но за мной люди "подчищают" и проверяют. А если нет?

...
И вот что значит "ощущениями"? А вот прям это.
Сидишь ты такой кадровик на собеседовании, а тебе машина советует - не бери, раздолбай он. И ты смотришь такой - а ну и вправду, раздолбайски ведёт как-то себя. И не берёшь. И ты не знаешь, раздолбай ли он, или, может, гений, который бы привёл контору к успеху, а тебя к премии. Не знаешь. Просто смотришь на него, на совет машины, снова на него... Не, по ощущениям - раздолбай, верно.
И не узнаешь никогда, прав ли ты был. Потому что человек пошёл в рок-группу и больше не программировал.
И не введёшь в программу ни поправки, ни подтверждения.

Но программой пользуешься. А что? а как иначе-то? Ну и всё лучше, чем без ничего. Или не лучше?

И вот это - тоже по ощущениям.
   70.0.3538.8070.0.3538.80
Это сообщение редактировалось 06.11.2018 в 03:17
US Сергей-4030 #06.11.2018 03:19  @Татарин#06.11.2018 03:07
+
-
edit
 

Сергей-4030

исключающий третье
★★
Татарин> Если машина успешно решила ансамбль из n задач, правда ли, что она успешно решит n+1..ую?

нет, конечно. Вполне может и просрать. Но и человек может. При том, что машина таки может вычленить какие-то зависимости из системы с миллионом параметров, а человеку сложно.

Татарин> И вот ты в какой-то момент времени встаёшь перед задачей, где требуется одиночное, но верное решение. Одно. Но верное. И ставки единичных ошибок высоки - жизнь человека, например. А ситуация - неопределенно изменилась (она всегда меняется, и часто неопределенно).

Так ведь это и для человека справедливо. Человек а) тоже решает проблемы опираясь на прошлый опыт и б) сплошь и рядом не способен распознать изменение условий.
   70.0.3538.7770.0.3538.77
US Сергей-4030 #06.11.2018 03:22  @Татарин#06.11.2018 03:07
+
-
edit
 

Сергей-4030

исключающий третье
★★
Татарин> Сидишь ты такой кадровик на собеседовании, а тебе машина советует - не бери, раздолбай он. И ты смотришь такой - а ну и вправду, раздолбайски ведёт как-то себя. И не берёшь. И ты не знаешь, раздолбай ли он, или, может, гений, который бы привёл контору к успеху, а тебя к премии. Не знаешь.

Когда ты не можешь оценить параметр - не оценивай. Поскольку ты не знаешь ни вероятности сколько гениев получится из раздолбаев ни сколько гениев получится из не-раздолбаев ни даже где гениев получится больше - значит действуй так, чтобы максимизировать те параметры, которые ты максимизировать сможешь. По крайней мере, контора не обанкротится платя за ошибки раздолбаев.
   70.0.3538.7770.0.3538.77
EE Татарин #06.11.2018 10:45  @Сергей-4030#06.11.2018 03:19
+
+3
-
edit
 

Татарин

координатор
★★★★★
Сергей-4030> Так ведь это и для человека справедливо. Человек а) тоже решает проблемы опираясь на прошлый опыт и б) сплошь и рядом не способен распознать изменение условий.

Человек, все-таки, пока владеет более широким контекстом - сотни миллиардов нейронов против миллионов. Это хорошо часто сказывается на эффективности.

Но речь даже не о том, а о том, что это как раз то, о чем я и говорил: у машины есть своя субъективность, характер, предвзятость, как и у, допустим, кадровика.
И человеку часто проще (и уверенней) решить задачу самому, чем оценить, насколько и в какую сторону накосячит машина.

В отличие от некоторых физических/инженерных расчетов на машину нельзя ссылаться как на железный авторитет и объективный арбитр. У неё своя субъективность, свои тараканы, детские травмы и свои косяки.
   70.0.3538.8070.0.3538.80
RU spam_test #06.11.2018 11:14  @Татарин#06.11.2018 10:45
+
-
edit
 

spam_test

аксакал

Татарин> у машины есть своя субъективность, характер, предвзятость, как и у, допустим, кадровика.
Если статистически машина принимает более верные решения, что делать? Ведь в таком случае все твои выводы о большей эффективности человека летят в тартарары. И в случае, если человек делает одно очень хорошее решение, а сотню сливает, но при этом компенсирует этим решением слив. То вывод об эффективности человека похож на построение графика по одной точке.
   69.0.3497.10269.0.3497.102
EE Татарин #06.11.2018 13:04  @spam_test#06.11.2018 11:14
+
-
edit
 

Татарин

координатор
★★★★★
Татарин>> у машины есть своя субъективность, характер, предвзятость, как и у, допустим, кадровика.
s.t.> Если статистически машина принимает более верные решения, что делать?
А если - как в случае с кадровиками - статистики нет или она сама по себе спорна и субъективна?

s.t.> Ведь в таком случае все твои выводы о большей эффективности человека летят в тартарары.
Хм. У меня нет "выводов о большей эффективности человека" вне конкретного контекста применения, я такого глупого обобщения не делал. У меня у самого машина работает вполне эффективно и заменяет людей (многих) с хорошим, в целом, выхлопом.

Я вообще в посте выше говорил о другом, о том, что когда мы говорим о глубоком обучении, мы не можем полагаться на машину как на "усилитель интеллекта", как ранее.

Ну вот как с инженерным софтом? Если я считаю методом конечных элементов мост, то результаты расчёта верны настолько, насколько верны исходные предпосылки (формулы сопромата и константы прочности материалов) и сам метод (конечных элементов). Если предпосылки и метод верны, то вывод верен абсолютно - машина не привносит ничего нового, только усиливает мои возможности делать выводы из моих предпосылок моим методом.
К этой ситуации настолько привыкли, что некоторые уже даже забывают про необходимость контролировать метод, его применимость и исходные данные. Машина сказала "42", значит 42 с точностью до верности исходных и сопромата, вердикт окончательный, вердикт объективный, обжалованию не подлежит.


...

В случае с глубоким обучением мы изначально имеем дело с субъективной машиной, машиной, имеющей предубеждения (зависящие от обучающей выборки, часто не столь уж и большой), с машиной, у которой метод выведен ей самой (и не бесспорным способом), а данные - подготовлены ей же опять же сложными, выведенными в результате обучения её субъективными методами.
В случае с нейросетями машина не является окончательным авторитетом, потому что её выводы из обучающей подборки могут быть неверными (и часто есть), машины сплошь и рядом страдают от "детских травм" переобучения, у них - примитивных сеток на миллионы нейронов - свои "скрытые кошмары" и проблемы.

Машина с глубоким обучением - это больше не усилитель интеллекта, это интеллект.

Слабый, убогий и со своими глюками, со своими огромными плюсами, но главное - самостоятельный и для больших сетей практически независимый от программиста (потому что именно ради невмешательства программиста в потроха обучения и "написание алгоритма" они и делаются).

...

Именно так и надо к нейросетям относиться.
   69.0.3497.10069.0.3497.100
RU кщееш #06.11.2018 13:13
+
-
edit
 
у нас лаборатория занимается этим
может попозже расскажу кое-что.
   70.0.3538.7770.0.3538.77
+
-
edit
 

KrMolot

опытный

В последнее время стали появляться специализированные чипы связанные с нейронными сетями:
Movidius Myriad X
Gyrfalcon Technology Laceli Lightspeeur® 2801 / 2803

Скоро должен выйти BrainChip Akida NSOC

Импульсные нейронные сети на примере SNN-технологий от компании BrainChip

Нейронные сети используются для решения различных неформализованных задач, таких, например, как распознавание изображений, фильтрация звука и, даже, поиск брака на производстве. В настоящий момент наблюдается рост интереса к нейронным технологиям, что приводит к их дальнейшему развитию. В частности появляются практические реализации импульсных нейронных сетей (SNN), которые по своему потенциалу превосходят ставшие традиционными сверточные нейронные сети (CNN). В данной статье проводится краткий обзор SNN-технологий от компании Brainchip. //  Дальше — www.terraelectronica.ru
 

И самое противное, нигде нельзя достать образцы для опытов. :(
   70.0.3538.8070.0.3538.80
EE Татарин #07.11.2018 11:50  @KrMolot#07.11.2018 01:42
+
-
edit
 

Татарин

координатор
★★★★★
KrMolot> И самое противное, нигде нельзя достать образцы для опытов. :(
Для опытов есть обычный писюк. ПО большому счёту все эти спецпроцессоры делают просто быстрее (а ещё чаще - даже не быстрее, а лишь дешевле) вычисления для специфичных сеток.
Сложно представить себе архитектуру, которая на PC так или иначе не эмулируется.
   70.0.3538.7770.0.3538.77
+
+1
-
edit
 

Wyvern-2

координатор
★★★★★
Ленинградская школа дзюдо образца 1977 года выпустила в свет намного больше миллиардеров, чем Лондонская и Гарвардская школы бизнеса вместе взятые за все время своего существования ©
:F

Проблема не в "искусственном интеллекте" - проблема в том, что его просто нет :P Есть лишь имитация результатов работы интеллекта на неподходящих (неймановской/гарвардской, нейросетевой) архитектурах с помощью обычного линейно-параллельного программирования....
   63.063.0
RU KrMolot #07.11.2018 13:56  @Татарин#07.11.2018 11:50
+
-
edit
 

KrMolot

опытный

Татарин> Для опытов есть обычный писюк. ПО большому счёту все эти спецпроцессоры делают просто быстрее (а ещё чаще - даже не быстрее, а лишь дешевле) вычисления для специфичных сеток.
Татарин> Сложно представить себе архитектуру, которая на PC так или иначе не эмулируется.
Мне это как раз надо для опытов, чтоб сделать дешевле. :)
У Интел есть Myriad usb stick, но он недостаточно производителен для моих задач и это уже не последнее поколение.
Gyrfalcon заявляет о наличии у них usb решения, но в свободном доступе его нет.
В принципе, уже есть готовое решение которое мне подойдёт: YouBox.

Intel and Tencent YouTu Team on Artificial Intelligence Products to Deliver Customer Insights | Intel Newsroom

What's New: Today at the Tencent Global Partner Conference*, Remi El-Ouazzane, vice president and COO of Intel’s AI Products Group, announced new //  newsroom.intel.com
 

Вопрос только в цене и в открытости программной части продукта.
   70.0.3538.8070.0.3538.80
IL digger #07.11.2018 14:08  @Сергей-4030#05.11.2018 21:55
+
-
edit
 

digger

аксакал

Сергей-4030> И при том, что мои методы наверняка куда более топорные, чем у профессиональных трейдеров. И, конечно, я совершенно не знаю, по какому принципу машина отбирает. Следить за ее матрицей коэффициентов для человека - безнадежное дело. Но результат очевидно говорит о том, что она работает в плюс.

Дык, это правильная сфера применения. МЛ ищет закономерности и находит их, очевидно, лучше человека, тем более - на больших числах и при плавных изменениях. Курс одной акции и тем более физическое будущее одной компании - МЛ не может предсказать, так как неспособна оценить и у нее нет информации о том,чем занимается компания. Если физическое явление произойдет глобально, то МЛ облажается.
   70.0.3538.7770.0.3538.77
EE Татарин #07.11.2018 16:08  @KrMolot#07.11.2018 13:56
+
-
edit
 

Татарин

координатор
★★★★★
KrMolot> Мне это как раз надо для опытов, чтоб сделать дешевле. :)
Что за задачи такие, что CUDA на хорошей карте уже маловата стала? :) а усб-стик - поможет? :)
   70.0.3538.7770.0.3538.77
RU KrMolot #07.11.2018 16:26  @Татарин#07.11.2018 16:08
+
-
edit
 

KrMolot

опытный

Татарин> Что за задачи такие, что CUDA на хорошей карте уже маловата стала? :) а усб-стик - поможет? :)
Интересует видеоаналитика, но чтоб это было бюджетно. Какой-нибудь RPi с воткнутым в него usb-брелком. Либо уже готовый недорогой box с возможностью ставить на него свой дистрибутив Linux.
   70.0.3538.8070.0.3538.80
+
+1
-
edit
 

Sandro
AXT

инженер вольнодумец
★☆
KrMolot> Интересует видеоаналитика, но чтоб это было бюджетно. Какой-нибудь RPi с воткнутым в него usb-брелком. Либо уже готовый недорогой box с возможностью ставить на него свой дистрибутив Linux.

Так в Raspberry Pi это всё уже и так есть! В том числе и графический процессор с поддержкой OpenCL, можешь считать, что хочешь. Правда, самая дохлая десктопная карта за $50 будет на два порядка быстрее.
   52.952.9
+
-
edit
 

KrMolot

опытный

Sandro> Так в Raspberry Pi это всё уже и так есть!
Может и есть, но там совсем мало.
Sandro> В том числе и графический процессор с поддержкой OpenCL, можешь считать, что хочешь. Правда, самая дохлая десктопная карта за $50 будет на два порядка быстрее.

Lightspeeur 2803 Neural Accelerator for Edge & Cloud

Lightspeeur® 2803S Neural accelerator SUPERIOR RATIO OF HIGH PERFORMANCE TO LOW POWER FOR AI​ Get Started Product overview Lightspeeur® 2803 … //  www.gyrfalcontech.ai
 

Best Peak Performance
16.8 TOPs @ 300MHz
И какая карта за 50 баксов обеспечит аналогичную производительность в данной области? :)
   7070
RU Balancer #07.11.2018 21:57  @Татарин#15.10.2018 02:18
+
-
edit
 

Balancer

администратор
★★★★★
Татарин> А с глубоким обучением у машины тоже есть своё мнение. И предрассудки. Основанные на обучающем датасете. И при некотором желании машину тоже можно та-ак научить... нетривиальным образом научить, что она будет бывших пионеровожатых где-то у себя в глубине своей машинной души вычислять и конкретно от них шарахаться.

Короче, всё как у людей.


Чат-бот от Microsoft за сутки научился ругаться и стал расистом

Разработанный Microsoft чат-бот Tay, запущенный 23 марта в твиттере, научился ругаться, а также стал делать расистские высказывания, пишет "Би-би-си". //  www.interfax.ru
 
   55
RU Balancer #07.11.2018 22:02  @Татарин#05.11.2018 14:40
+
-
edit
 

Balancer

администратор
★★★★★
Татарин> … и окажется, что теперь ты должен платить на 70% выше, чем раньше. Потому что вероятности. И ты не сможешь ничего оспорить, потому что никто и никогда не будет разбираться в 97411 служебных пакетах от одной системы другой и выводах ИИ... да и логов, возможно, не будет.

Американского разработчика уволили без ведома начальства. Это сделал робот — и люди не смогли его остановить — Meduza

Разработчик из Калифорнии и сооснователь стартапа Renly Ибрагим Диалло рассказал в своем блоге о том, как год назад лишился работы. К тому моменту Диалло, который родился в Египте, а затем выучился на программиста в США, уже восемь месяцев работал в крупной компании (ее название он не разглашает), где с ним заключили контракт на три года. Мужчина пишет, что занимался разработкой программного обеспечения, его работу постоянно хвалили, и все шло отлично — пока однажды утром он не получил странное сообщение от начальника: «Боже мой, с тобой все в порядке?» //  meduza.io
 

(Update: сохранил заметку в ZeroNet)
   55
Это сообщение редактировалось 13.11.2018 в 16:23
RU Balancer #07.11.2018 22:10  @Татарин#06.11.2018 03:07
+
-
edit
 

Balancer

администратор
★★★★★
Татарин> Скажем, на примере с акциями - успешно торговал по мелочи хай-течными акциями и тут решил наварить более, добавил в систему денег, а она закупила на все акции Энрона перед банкротством.

Я когда в 2014-м играл с криповалютами, то пробовал робота писать торгового. Благо там всё для начинающего просто, всевозможные API, всё открытое и т.п. Накопил данных, натравил обучение (даже не нейросети, просто коэффициенты по изменениям) — получил в итоге конструкцию, весьма неплохо предсказывающую следующие изменения в серии… Но потом я попробовал её натравить на данные, поданные со смещением… И оказался в глубоком минусе :D Моя система банально заучила исходные данные :D

В итоге забил, возиться было особо некогда, вручную наторговал/намайнил четверть биткоина, на чём и забросил. Потом, когда биткоин пошёл в рост, полез на биржу, а её взломали. Так я и потерял всё :D Хотя это всё детский сад, биткоин тогда стоил по $250, можно было тупо купить сколько было налички, а потом, через пару лет на пике продать в 50 раз дороже :D

Татарин> Но программой пользуешься. А что? а как иначе-то? Ну и всё лучше, чем без ничего. Или не лучше?

И так печально всё и будет. Потому что ПРОГРАММА! :)
   55
RU Balancer #07.11.2018 22:12  @Татарин#06.11.2018 10:45
+
+1
-
edit
 

Balancer

администратор
★★★★★
Татарин> Человек, все-таки, пока владеет более широким контекстом - сотни миллиардов нейронов против миллионов. Это хорошо часто сказывается на эффективности.

Однако, в вопросах трейдерства, все доходные топы давно у роботов. Я знаю человека, который как-то на Форексе попал в топ-10. Единственный живой человек за сколько-то лет :) Над ним до сих пор прикалываются из-за этого :D

Татарин> В отличие от некоторых физических/инженерных расчетов на машину нельзя ссылаться как на железный авторитет и объективный арбитр.

Нельзя. Но люди охотно это делают и будут делать. Потому что машина считается непогрешимой. А если ошибётся — это будет не твоя, а её ошибка :D
   55
+
-
edit
 

Balancer

администратор
★★★★★
KrMolot> В последнее время стали появляться специализированные чипы связанные с нейронными сетями

Нейросети в железе — нейропроцессоры и т.п.

TrueNorth — процессор нового поколения Достаточно странно, что никто на Хабре не написал, но, на мой взгляд, сегодня произошло знаковое событие. IBM представила новый, полностью законченный чип,... //  habrahabr.ru   В чипе 1 миллион нейронов и 256 миллионов синапсов.// Компьютерный
 
   55
+
-
edit
 

Balancer

администратор
★★★★★
KrMolot> Мне это как раз надо для опытов, чтоб сделать дешевле. :)

Сегодня самые дешёвые нейросети в железе для опытов — на GPU. Уже стандарт де факто стал. И это, кстати, специализированные чипы тормозит.
   55
1 2 3 4 5 6 7

в начало страницы | новое
 
Поиск
Настройки
Твиттер сайта
Статистика
Рейтинг@Mail.ru