Если друг оказался вдруг…

Если друг оказался вдруг и не друг, и не враг, а... человек?

Не похож?

ГонЧие
(Шекли)

Имя Искандер Иннокентьевич вызывало улыбку, простите.  Общение персонажей, сбивалось на объяснялки от автора, что не в плюс динамике повествования.  Вводная читается тяжело, генетическое конструирование против инфо-роботов. Причем матчасти обеих вариантов нет, фантэлементы высосаны из пальца.Профессии о которых мечтают дети - профессии прошлого, и этот диссонанс смешен. Текст задуман интересно, но исполнение мне не понравилось. Читалось с трудом. Финал не понятен. Инфо-мальчик убивает себя с какой целью? Неужели за время, что он провел в обучающем центре он не выяснил, что с них делают копии? К чему эта жертва? Не ясна и цель доктор-зло ИИ? зачем все эти сложности - взаимное обучение если в итоге все остается на прежнем уровне. Био-Коля жив и мечтает о звездах. робот-Женя тоже жив, но у него стерта память и он перемещен в новое тельце.в чем идея данной истории?
#1 / 01.07.2017 22:14:00

Не похож?

Shmitt
(Фредерик)

Текст скорее технический, чем художественный. Теме соответствует. Слово "мозг" повторяется овер9000 раз, что не есть хорошо.  Иск.Инн (вот ведь имя-отчество) вечно появляется ВНЕЗАПНО , в нужный момент и нудно все объясняет. Вот из кого надо было инфо-чела делать, с его -то поучениями и занудством (спойлерить не буду). Супер-увеличение интеллекта до гениальности - это так просто, оказывается. Даже бедному школьнику по силам. И куда делась истеричная мамаша ГГ, которая делала мозг Ис.Ин.? Почему не прилетела в больницу и не зачмырила всю школу вкупе с больницей? Почему сам малолетний принимает решение про свое лечение? Или мамаша была нужна для закамуфлированной лекции про общество будущего? И где развитие темы про "библейские заповеди"? Кинул автор замануху - и тут же забыл. От сетевого напряжения (макс.220 В, больше смысла нет, даже 380 не будет) не получатся обугленные остатки, хоть куда кабель прикладывай.  Или у био-людей внутри система самоликвидации? В целом рассказ понравился, автор достаточно старался, это хорошо. 
#2 / 01.07.2017 22:15:48 / обновлён: 01.07.2017 22:18:29

Не похож?

Нэт
(Нептун)

Интересная задумка, но не очень удачное исполнение - много объяснений и мало повествования, персонажами не проникаешься и сопереживать им не хочется. На самом деле, задумка даже не на рассказ - а на роман, потому что вырисовывается целый мир, который никак не освещен. Кто принимает решение о рождении инфа-человека? Почему у ИИ есть прерогатива покупать обновления для отдельно взятого ученика? А какое значение имеет то, что Коля запрограммированный? То, что он понимает ценность "ускользающих жизней"? Но это вывод ИИ, а в моем представлении как читателя, Коля - мальчишка, готовый чуть ли не по головам идти к цели. Но - огромный плюс рассказа оригинальный и интересный киберпанк.
#3 / 01.07.2017 22:39:01
Спасибо за отзывы :)
Соглашусь, что в художественном плане рассказ значительно недоработан - писалось в последнюю минуту (извиняюсь, день) и ради идеи. Совсем разжевывать идею не хотелось, иначе бы действительно получились сплошные объяснялся и чисто технический текст (а он и так, как справедливо замечено, в этом плане хромает). Мамаша, да, потерялась. Думал ее вставить в сцены в госпитале, но это ни на что не влияло, а времени доработать эти сцены не хватило.Касательно ряда вопросов. Нет, учитель все же человек, хотя это роли не играет. И нет, он не "доктор-зло", скорее, добро, по крайней мере, с точки зрения био-людей, хотя в глобальном плане это еще вопрос (вроде, должно быть очевидно, что его цель - воспитание такого инфо-человека, который будет мотивирован реализовать эффективную загрузку сознания для био-людей). Копии с себя инфо-люди делают сами. Цель "самоубийства" инфо-мальчика - остаться другом био-мальчику. Вот представьте: у вас есть друг, и он залезает вам в голову и полностью "познает" вас. Обладает ли он достаточным уровнем эмпатии, чтобы после этого продолжить с вами общаться, особенно, если выяснит, что вы с ним не очень хорошо поступили? Инфо-мальчик решил, что нет. Дальше встает классическая дилемма рационального агента о совершении действия по изменению своей целевой функции. В соответствии с современными воззрениями "безопасный" ИИ должен быть устойчив по отношению к таким возможностям, в противном случае, им будет легко манипулировать в корыстных целях. Соответственно, инфо-мальчик в этот момент следует выработанной им системе ценностей, руководствуясь необходимостью ее сохранения. Я, конечно, понимаю, что сложно поставить себя на место ИИ с реалистичной системой мотивации. Большинство авторов и не пытается. Зачем, если и читателю это не понравится и будет не понятно. Конечно, проще следовать примитивным шаблонам, доставшимся нам от фантастики середины прошлого века.Зачем все эти сложности? Да, учителя постигла неудача. Но, во-первых, никто не сказал, что результаты исследований инфо-мальчика утеряны. Возможно, они сохранены и ждут своего часа - если Женя с Колей останутся друзьями, если био-люди оправдают доверие. Кроме того, сам учитель пришел к ценной идее. Но даже если бы все осталось на прежнем уровне, может, в этом была бы сермяжная правда? Жизнь - она такая: не всегда получается то, что хочется, и, может, это к лучшему. Может, био-люди, получившие способ эффективной загрузки сознания привели бы человеческую цивилизацию к гибели из-за тех особенностей социального поведения, которые нам достались по наследству от обезьян?
Супер-увеличение интеллекта - это действительно элементарно - для инфо-человека. В этом и "трагедия". Инфо-люди интегрированы в человеческий социум, но вырастая, они занимаются решением интересных им вопросов. И этот сценарий вовсе не высосан из пальца. Он гораздо реалистичнее того, что было представлено на том же киберпанке, когда у людей есть нейроинтерфейсы с прямой записью/чтением в мозг. Вот такие фантэлементы реально высосаны из пальца, но почему-то это никого не беспокоит - ведь так прикольно фантазировать о том, как было бы круто засовывать штырь себе в мозг, который бы все делал. Никто не думает, что технически это реализовать гораздо сложнее, чем создать автономный ИИ."Библейские заповеди" - да, к сожалению, могут сложить неверное ожидание, но там специально оговорено, что закладывается "современная модификация" (и взято в кавычки, вроде). И их наличие играет существенную роль в сюжете."А какое значение имеет то, что Коля запрограммированный?.. Коля - мальчишка, готовый чуть ли не по головам идти к цели" - именно (хотя и преувеличено). Это тоже один из компонентов проблемы, обсуждаемой в рассказе. Как говорится вначале, невозможно запрограммировать "законы робототехники" или их аналог. Это просто глупость. Но формирование системы ценностей с чистого листа тоже не срабатывает. Инфо-мальчик предпочитает сохранить случайную дружбу вместо потенциального спасения жизней кучи людей. Поэтому-то в конце и упоминается про эффект Болдуина. Это подсказка, хотя, возможно, слишком неявная.Насчет 220 В: многие вещества обугливаются и от 220 В. Метаматериалы, используемые для процессоров инфо-людей, обладают уникальными электромагнитными свойствами. Но, да, можно было бы обойтись и без обугливания.
"Почему сам малолетний принимает решение про свое лечение? " - вроде, он не принимал.
"Почему у ИИ есть прерогатива покупать обновления для отдельно взятого ученика?" - у учителя есть свои сбережения; может, он квартиру продал; но да, тут небольшая дырка.
Насчет "устаревших профессий". Покорение космоса - дело инфо-людей. Меня вот гораздо больше коробит, когда космос летят осваивать обычные люди, до того как там роботы все обустроят (и таких рассказов здесь полно, но на этот косяк тоже мало кто обращает внимание). Про детективов - а почему нет? Люди остались людьми. Преступления никуда не делись. Кроме того, био-мальчик генетически мотивирован на "справедливость". Можно дискутировать, но большой натяжки тут нет.В общем, еще раз спасибо за комментарии. Пинки за недостаточную художественность я ожидал, но то, что рассказ окажется настолько непрозрачен, честно говоря, - нет. С одной стороны, слишком много объяснялок; с другой, их явно не хватило...Очень не хочется пускаться в длительные дискуссии, поэтому комментировать высказывания насчет "высосанности из пальца" фантэлементов комментировать больше не буду. По моему имху они гораздо менее высосаны, чем в подавляющем большинстве фантастических произведений с участием ИИ, хотя, конечно, дискуссионны - это все-таки фантастика. Однако читатель имеет полное право на свое мнение, а то, какое впечатление у читателя сложилось, - это вообще не подлежит обсуждению. Кому не лег рассказ на его/ее концептуальную систему, что уж тут сделать. С замечаниями литературного толка согласен. Будут вопросы - отвечу :)
#4 / 02.07.2017 00:01:24 / обновлён: 02.07.2017 00:04:40

Не похож?

Нэт
(Нептун)

Уважаемый автор, очень много из ваших задумок потерялось. Так что еще раз повторюсь - задумка все-таки романная. И с "современной трактовкой" заповедей (мы же не знаем, какая именно трактовка современна для героев), и со многими другими нюансами мира. Учитель, с его способностью появляться всегда вовремя и бесстрастностью, раз он действительно био-человек, требует раскрытия, так как в такое его желание помочь конкретному ученику не верится (на всех денег же не напосешься!). Если вам интересна эта тема (а судя по подробностям, интересна) - у вас впереди еще очень много работы)) удачи!
#5 / 02.07.2017 04:15:30
Спасибо за отзыв. Учитель появляется всегда вовремя, потому что он многие (но не все) вещи подстроил. Это прямым текстом говорится, и эти появления - подсказки. Он не помогает конкретному ученику.  Он его пытается использовать в "корыстных" целях - получить технологию цифрового бессмертия - для всего человечества, включая себя. Подробности мира, да, не прописаны, но для рассказов это, имхо, нормально. Роман по этому миру, однако, писать точно не будут. Сеттинг с обучением ИИ в школе с детьми в темпе жизни человека - это задумка конкретно для этого конкурса. Хотя с точки зрения 'positive value fostering' она вполне здравая, в реальности она вряд ли будет реализована по причине тупости и алчности био-людей. Здесь хотелось "правильной фантастики", хоть немного позитивной. Но в действительности мы обречены. Если уж писать, то про это. Это и читателю больше нравится.
#6 / 02.07.2017 09:10:48
Кстати, если кому-то интересно, насколько все печально в области безопасности ИИ, можно почитать обзор http://intelligence.org/files/ResponsesAGIRisk.pdf . Кстати, там с каждого подпункта можно взять идею для фантастического рассказа, хоть и не слишком оригинальную и не слишком правдоподобную в том плане, что так никто делать не будет (зато идею понятную, поскольку, как мы выяснили, если пытаться синтезировать несколько идей, то будет непонятно).
#7 / 02.07.2017 09:31:53

Не похож?

БАНК
(Порфирий)

Если брать в целом рассказ+комментарии автора, то получается крайне интересная беседа, возможно даже за бокалом янтарного *воды*. 

Но как литературное произведение (рассказ) лично меня не тронул. Тема-то выбрана драматичная - жизнь и смерть и всё такое. Да - роботы, да - люди, да - между ними всегда всё сложно. Но меня, как читателя, так и не пригласили сопереживать, удивляться, эмоций нет. А вот было бы здорово. 

Итого - тема любопытная, автор ищет, это прекрасно. 
Но подать её в форме увлекательной истории (на мой взгляд и вкус) пока не очень удалось. Хотя, вроде, и все составляющие конкурса на месте.
Про баллы - надо хорошенько подумать.
#8 / 02.07.2017 16:57:09
Спасибо за отзыв!
#9 / 02.07.2017 16:59:29
Ага... это почему Скайнет с Матрицей такие злые были? Потому что в школу не ходили. И велосипеда не было. В Лит-РПГ-шках сия идея активно юзается - через одного все ИскИны у них "одомашненные".
Нет уж, нафиг-нафиг. Человек не должен создавать вещей и явлений, которые он не сможет  контролировать и даже толком понимать. Пусть сначала сам подрастёт в возможностях. Как "жадный и алчный био-человек" я совершенно не переживаю за Женьку Копи-пасту - это просто смешно. Можно ли сопереживать по-человечески за бессмертный набор битов, который в любой момент могут размножить на сотни копий? Человеческое-человеку.  А ИскИны пускай инфоголовы ломают над поставленными им био-людьми задачами.
Мне рассказ понравился технически-литературно, но идеологически - нет, увольте.
#10 / 04.07.2017 19:51:44
Григорий, спасибо за отзыв и интерес к самой проблематике. В фантастике много чего напридумано, но эту тему обсуждают и специалисты. Выше я давал пример ссылки. Видел также, как специалисты по косточкам разбирают, что не так показано про ИИ в художественных произведениях (видел про фильмы). Я бы больше в этом вопросе верил все же специалистам... И общий вывод из того обзора, ссылку на который я давал, сводится к тому, что обучение системе ценностей - это наиболее перспективный путь. Проблема в том, что фраза "Человек не должен создавать вещей и явлений, которые он не сможет  контролировать и даже толком понимать" не заклинание и на практике не сработает, сколь бы правильной она ни была.  Если не корпорации создадут ИИ, то правительства, если не правительства, то opensource сообщества, если не они, то террористы, если не террористы, то отдельные ученые или инженеры, когда для этого весь инструментарий будет готов (сейчас школьник может налабать с использованием готового фреймворка глубокого обучения какую-нибудь систему распознавания лиц или еще чего, которая пятнадцать лет назад показалась бы нереализуемой команде опытных инженеров). Хотим того мы или нет, искусственный интеллект будет создан, и критичный вопрос для судьбы человечества - как именно. И почему такое пренебрежение к бессмертному набору бит? Чем смертный набор атомов лучше? В общем, проблема в том, что будущее наступит, независимо от нашего к нему отношения, но в зависимости от наших действий. Но, конечно, как читателю Вам может не нравиться рассказ из-за сеттинга безотносительно его осмысленности. Мне вот про расчлененку не нравится читать, хотя в реальности она бывает. Так что я не хочу "опровергнуть" ваше отношение к своему рассказу, но просто считаю необходимым пояснить реальность рассматриваемой проблематики.
#11 / 04.07.2017 23:00:22
Эх, не могу не сделать еще одно пояснение. Этот рассказ не про обучение робота в школе. Он про искусственный интеллект, снабженный системой внутреннего подкрепления через любопытство, взаимодействующей с механизмами формирования системы ценностей (приписывание объектам и ситуациям в мире значений ценности) с использованием эмпатии - заимствования значений ценности у других интеллектуальных агентов. И про то, что в итоге этот ИИ с еще не сформировавшейся, "детской", системой ценностей, которая привязана к незрелой модели окружающего мира (в частности, не произведено обобщение - ценности человеческой жизни как таковой) заставляют совершать некий выбор. И проводится мысленный эксперимент - какой выбор совершит данный ИИ с мотивационной системой, возникшей к такому-то моменту в таких-то условиях с такими-то врожденными механизмами. В общем, в этом идея. Она гораздо более детальная, чем просто "робот ходит в школу". Хотя не исключаю, что она может быть интересна только автору...
#12 / 05.07.2017 01:29:01

Не похож?

Максим Лагно
(Филлмор)

В рассказе есть мальчишки, они причём не самые обычные, что тоже хорошо. Есть некий познавательный элемент. Меня заинтересовала Ладыгина-Котс. Написано, конечно, всё торопливо. Но рассказ есть, и он интересный.

Супергигантский минус – это сцена «Защита от старшеклассников». В этом конкурсе в каждом третьем рассказе, герой видит, как обижают кого-то. Набирает в грудь воздуха и, неожиданно для себя, говорит: «Убери свои лапы, ты грязная обезьяна!» Прекращайте мыслить и писать штампами. А рассказу отспылю баллов, что остались.

Если подредактировать (уменьшить) будет отлично.  
#13 / 05.07.2017 16:58:36 / обновлён: 05.07.2017 16:58:49
Спасибо. Да, сам уже жалею, что поторопился. Но очень уж неплохо возникшая идея ложилась на тему конкурса, а времени почти не оставалось. 
#14 / 05.07.2017 17:10:44 / обновлён: 05.07.2017 17:17:48

Не похож?

Максим Лагно
(Филлмор)

Тут я поддерживаю. Лучше быстро, но чтоб было, чем медленно и поздно
#15 / 05.07.2017 19:32:00
С детства вернее даже с младенчества интересуюсь ИИ ... автор респект за рассказ. Хотел бы пообщаться вне конкурса на эту тему. Если не против дождёмся окончания напишу в личку. 
#16 / 06.07.2017 12:26:03
Спасибо. С удовольствием пообщаюсь.
#17 / 06.07.2017 14:03:13

Не похож?

Кроатоан
(Автопилот)

Тексту катастрофически не хватает атмосферы. Собственно, все, что мы имеем, это лекционные вставки и диалоги. Даже персонажи никак не раскрыты и служат исключительно для продвигания главной авторской идеи. Идея, надо сказать, интересна, отсылает к золотому веку фантастики. Да и автор, судя по всему, глубоко в теме. Но вот рассказа, по факту, нет. Скорее, сценарий рассказа. Это грустно. И очень надеюсь, что автор не станет забрасывать текст, а доработает его.
#18 / 08.07.2017 16:03:07
Спасибо. Насчет "сценария рассказа" согласен, да, успел набросать только общую схему. Дорабатывать вряд ли буду. Если бы не тема конкурса, никакой школы не было бы. Разве что случится невозможное, и рассказ в таком виде попадет в финал - тогда придется дорабатывать. Но этого, к счастью, не случится.
#19 / 08.07.2017 19:12:13
html
Наверх