Balancer>>Ты не сможешь убедиться, что там нет закладок. AidarM> Как только встанет такая задача - смогу. Нет, не сможешь. И даже если посадить целый большой институт, то неизвестно, сколько у них лет уйдёт только на то, чтобы утверждать, что с определённой вероятностью этих закладок нет. А вот
гарантировать - даже они не смогут. Проще будет сделать заново, с нуля
Но в случае ИР это уже не прокатит, так как сложность изделий явно будет выше тех, что сможет сделать человек
>>Так эта "прога" будет ИИ/ИР подчиняться намного лучше, чем человеку AidarM> А кто ж ему даст-то? Да не просто дадут, а заставят. Смотри на современные экспертные системы, скажем.
AidarM> А завтра что-нить ...нется, и таки займутся люди техникой безопасности в этой, еще новой и довольно хаотичной сфере. Это будет просто элементарный попил бабла
AidarM> Потому что я не занимался этим. Зато я занимался
И знаю, что к чему. И представляю объёмы задачи.
AidarM> А пофиг, главное, что мы можем это узнать. И как? Только прямым запуском. Но если это будет ИР? Зачем ему в таких условиях вообще показывать своё существование? Будет себе имитировать большую и неразумную экспертную систему
Мы же, понять, что это имитация, за которой прячется нечто бОльшее просто не сможем. Ибо простейшие нейросети от десятка нейронов и выше мы можем наблюдать только в виде их деятельности, а не в виде заложенной в них модели.
AidarM> Гы, один, всеми станками? И сам весь из себя такой принципиально непознаваемый и неподконтрольный? Зачем? Достаточно будет того, что все эти станки будут включены в Инфосферу
А это - неизбежно. Потребуется обмен данными, хочешь ты этого или не хочешь.
AidarM> Я конечно извиняюсь, но у меня под боком сидят спецы, которые до отдельного атома могут кристалл перебрать. А уж разводку толщиной в 70 нанометров незаметить... Вот в этом твоя главная ошибка. Ты считаешь, что если знаешь, как работает один нейрон, то у тебя есть полная модель всего мозга. А вот тут и приходит облом. Сложная система - это в первую очередь не её компоненты, а взаимодествие их. И уже не один десяток лет человек делает системы, понять которые он не может. Хоть ты поатомно рассмотри её.
Генетический алгоритм даст тебе, скажем, набор весовых коэффициентов. Но что они дадут в комплексе ты знать не можешь. Ты можешь видеть только результат работы.
AidarM> Но хотя и вы в рухнувшей Винде не роетесь дебаггером, кодеры у мелкомягких роют носом, изобретают патчи. Очень хороший пример. Если бы кодеры винды представляли себе, что делает их система, в ней бы не было ошибок. Но, увы - пока не запустишь, не узнаешь. Хотя каждая инструкция процессора известна прекрасно
AidarM> Роман, вы слишком много времени отдаете работе, отыхать надо. А ты не ёрничай а по ситуации ответь. Ситуация столь же вероятная, как и изобретение ИР.
AidarM> Если точно узнают, что это разум? Никто это человечество спрашивать не будет, постараются локализовать и причешут всеми возможными для нас воздействиями, как любой черный ящик. См. выше мою задачу по поиску в Интернете. Задача в общем случае нерешаемая уже сегодня.
В каком нейроне твоего мозга сидит сейчас вот эта буква "
A"?
AidarM> Задача такая не стоит. Возникнет - сделают, ничего принципиально невозможного тут нету. Не сделают. Невозможно это
Уровень сложности задачи уже превышает уровень решаемых человеком задач. Можно просто изменить и посмотреть что получится. Но предсказать в динамике - нет.
… чтобы понять рекурсию, нужно сперва понять рекурсию …