Комментарии к колодцу Феруэлла

Zedmor, технология технологии рознь все таки. Пистолет на 3d принтере тоже можно напечатать, но если ты собираешься служить в спецназе, наверное ты выберешь что-то от правообладателей.

Сложные технологии имеют кучу нюансов, которые делают разницу между применимой и неприменимой технологией.
Например в данный момент времени ни мы не можем сделать Буран, ни американцу Шаттл, хотя казалось бы все технологии есть.

Но тем не менее для воспроизведения их придется практически переизобретать заново.

Nameless00 @ 30.11.2016
Zedmor, технология технологии рознь все таки. Пистолет на 3d принтере тоже можно напечатать, но если ты собираешься служить в спецназе, наверное ты выберешь что-то от правообладателей.

Так собственно в том-то и дело, что дело идет к тому, что если на 3д принтере можно будет напечатать атомную бомбу, то то как ее сделать очень быстро будет опубликовано на гитхабе в последние дни существования человечества.

Вот тебе другой пример - манипуляции с геномом. crispr gene editing - вот это вот все. За 50к можно в подвале собрать лабораторию:

https://www.quora.com/How-much-would-it-cost-to-build-a-CRISPR-Cas-system-in-your-basement

Как далеко отделяет нас от того, чтобы не только случайно переключать гены (что сейчас происходит) и смотреть что проиходит, до понимания как вся машинерия работает? И вот что ты будешь "контролировать" - продажу центрифуг? Или холодильников?

Повторяю важный момент - от создания условно говоря смертоносного микроорганизма, который уничтожит всех людей на земле нас отделает не возможность это сделать, а отсутствие кода этого самого микроорганизма.

Поэтому, конечно, эти смешные дяди в пиджаках - http://www.commerce.senate.gov/public/index.cfm/2016/11/commerce-announces-first-artificial-intelligence-hearing ничего кроме недоумения не вызывают.

Zedmor, ну если только в контексте разрушительных технологий. И то не все так просто.

Технология клонирования описана была давно, но потребовались годы чтобы сделать первую жизнеспособную овцу, и та сдохла быстро.

Как сделать атомную бомбу в общем тоже не секрет. Секрет - это где взять обогащенный уран и некоторые други ништяки.

То же самое с крисп. Биотехнологии пока еще не свелись к чистой математике. Там нефиговая такая погрешность на каждом шаге и нужно и время и деньги и знания, чтобы довести работу до вменяемой кондиции.

Сибирская язва уже не первый год смертоносна, но мы пока не видим энтузиастов, собирающих ее в гараже.

И до появления кода того самого смертоносного микроорганизма пройдет немало итераций, повышающих его смертоносность и живучесть и тд и тп. Будет еще время засекретить.


Но если речь об AI, то тут наверное да, одного кода будет достаточно с головой.

Nameless00 @ 30.11.2016
То же самое с крисп. Биотехнологии пока еще не свелись к чистой математике. Там нефиговая такая погрешность на каждом шаге и нужно и время и деньги и знания, чтобы довести работу до вменяемой кондиции.

Сибирская язва уже не первый год смертоносна, но мы пока не видим энтузиастов, собирающих ее в гараже.

Ты наверное не вполне понимаешь как работает криспр ;) Там нет никакой погрешности. Ну в том смысле, что мы можем создать организм, который все клетки другого организма "обработает" гарантировано заменив последовательность днк x на y. Почитай это реально очень прикольная технология. Рак лечат уже только в путь.

А с атомной бомбой человечеству очень сильно повезло. В смысле легкости контроля.

Случайно можно переключать гены, но до понимания всего процесса очень далеко.
Примерно те же самые сложности, что и в попытке создать ИИ, хорошо поковырявшись в мозгу. В лучшем случае, получишь террабайты зашумленных данных, с которыми совсем не понятно что делать.
В мозгу больше 100 миллиардов нейронов, каждый передает какие-то непонятные импульсы. В ДНК 3 миллиарда нуклеотидов + оказывает влияние химические процессы, происходящие в клетке. Как в этом разобраться, используя для измерений инструменты, которые к тому же выдают приличную погрешность - я не представляю.

Zedmor @ 30.11.2016
Ты наверное не вполне понимаешь как работает криспр ;) Там нет никакой погрешности. Ну в том смысле, что мы можем создать организм, который все клетки другого организма "обработает" гарантировано заменив последовательность днк x на y. Почитай это реально очень прикольная технология. Рак лечат уже только в путь.

А с атомной бомбой человечеству очень сильно повезло. В смысле легкости контроля.

Я вполне понимаю как работает крисп.

И если почитать исследования, где эту технологию применяют, то можно обнаружить там много дополнительных шагов, которые и делают для того чтобы минимизировать погрешность. И это еще in vitro.
В реальных организмах еще сложнее.

Nameless00 @ 30.11.2016
А тем временем муравьи прошли зеркальный тест.
Чет кажется нас ждет переосмысление некоторых фундаментальных понятий типа самосознания и theory of mind.

Пруф

Социум может способствовать появлению самосознания у ИИ, на вскидку это под замком сложнее.

Это ужасно: https://geektimes.ru/post/283208/

Печаль в том, что подобная тенденция прослеживается в общемировом масштаба, а не только в тоталитарных режимах, хотя там она и идет по наиболее жесткому и пути и с опережением.

Лет 10 назад еще, помню, всякие конспирологи пугали, типа все будет по Иоанну Богослову

"И он сделает то, что всем, малым и великим, богатым и нищим, свободным и рабам, положено будет начертание на правую руку их или на чело их, и что никому нельзя будет ни покупать, ни продавать, кроме того, кто имеет это начертание, или имя зверя, или число имени его."


Притянуто конечно, но смысл примерно тот же. Институт государства окончательно себя изжил полностью превратившись в механизм узурпирования власти и угнетения народа.

А кто-то еще боится отдать власть в руки ИИ. Похоже, что власть людей тоже не сулит нам ничего хорошего.

Когда я читал разную научную фантастику и сопоставлял это с отсутствием признаков жизни вне земли.
Одна из моих идей заключалась в том, что существует некий порог знаний, достигая который цивилизация сталкивается с такими научными открытиями, что сама себя уничтожает - условно случайно удалось сделать стабильную черную дыру, смертоносный вирус и т.д.

Это были так идеи на тему фантастики, но думаю для человечества это вполне реальная угроза.

Fr0st, это ты сформулировал часть Великого Фильтра. Другой вариант - для зарождения и/или развития организмов до стадии колонизации космоса требуется просто невероятное стечение обстоятельств.

Учёные пока не нашли действительно серьёзных свидетельств в пользу этого, скорее даже наоборот. С другой стороны, что могло уничтожить дохреналлион инопланетных цивилизаций, одну за другой, тоже непонятно.

Zedmor @ 30.11.2016
А с атомной бомбой человечеству очень сильно повезло. В смысле легкости контроля.

В 20-м веке действительно был серьезный фильтр на страны, обладающие ядерной бомбой. Он заключался в невозможности разработки технологии для стран с ВВП ниже определенного предела.
Но чем дальше - тем больше стран преодолевают этот предел и тем доступнее технология.

Самая жопа в том, что после нарушения Будапештского меморандума, вряд ли в мире осталось много глав стран, которые не понимают ценности наличия ядерного оружия у себя или у своего суверена в обеспечении суверенитета страны.

Nameless00 @ 30.11.2016
И до появления кода того самого смертоносного микроорганизма пройдет немало итераций, повышающих его смертоносность и живучесть и тд и тп. Будет еще время засекретить.

Секретность - это один из плохих методов обеспечения безопасности. У этого метода есть даже своя статья в википедии.
Например, в IT большинство протоколов работы с информацией пришло к тому, чтобы быть максимально открытыми.

И еще на эту тему: Физик доказал невозможность скрывать правду от народа

ZiingRR @ 1.12.2016
Другой вариант - для зарождения и/или развития организмов до стадии колонизации космоса требуется просто невероятное стечение обстоятельств.

Любая возможная колонизация космоса почти всегда будет проводиться НЕ организмами, т.к. технологии, необходимые хотя бы для внутригалактических перемещений уже подразумевают наличие довольно разумных машин.

Учёные пока не нашли действительно серьёзных свидетельств в пользу этого, скорее даже наоборот. С другой стороны, что могло уничтожить дохреналлион инопланетных цивилизаций, одну за другой, тоже непонятно.

Общемировое представление страдает не только т. н. углеродным шивонизмом, пытаясь присвоить возможное наличие т. н. "организмов" поверхностям планет земной группы.

tima @ 1.12.2016
Любая возможная колонизация космоса почти всегда будет проводиться НЕ организмами, т.к. технологии, необходимые хотя бы для внутригалактических перемещений уже подразумевают наличие довольно разумных машин.

Я и имел в виду развитие до момента, когда они смогут создать что-то вроде зонда фон Неймана.

tima @ 1.12.2016
Общемировое представление страдает не только т. н. углеродным шивонизмом, пытаясь присвоить возможное наличие т. н. "организмов" поверхностям планет земной группы.

Не понял что ты хочешь этим сказать. Искать внеземную жизнь что-ли не надо?

ZiingRR, я думаю что, идея с зондами неплохо смотрится в рамках автоматизированного тераформирования планет внутри звездной системы. Только это уже немного другое, но изготовитель как бы успевает получить отдачу, и это не требует создания сверхтехнологий.

А идея с "дальнобойными" зондами, полагаю, излишне романтизирована, и черпает вдохновение в простейших инстинктах земных организмов.

Смысл в том, что система продвинутых организмов НЕискусственного происхождения вряд ли будет иметь мотивацию посылать очень далеко куски металла, даже если на них будет бережно перевозиться их форма жизни.
Перелет даже со скоростью близкой к скорости света - это все равно очень медленно. К тому же очень опасно, т.к. одно лишь пусть даже сильно разряженное газопылевое облако на больших скоростях создаст серьезные проблемы.
Следовательно, скорее всего придется решать вопрос на более высоком уровне..., а это часто приведет к созданию ИИ.

ZiingRR @ 1.12.2016
Не понял что ты хочешь этим сказать. Искать внеземную жизнь что-ли не надо?

Искать надо, и нынешний подход вполне адекватен (если Мильнер с Хокингом нормально реализуют проект по мониторингу - помнится они собирались чего-то серьезное начать..)

Другое дело, что вероятно правильнее было бы сосредоточить обработку данных на областях с возможными следами наличия деятельности ИИ, а не каких-то форм "продвинутой жизни". К примеру, центра галактик вместо звезд с планетами в обитаемой зоне и т.д. (ну это все грубые прикидки конечно)...

Полагаю, нам следует скорректировать ожидание вероятного размещения сверхтехнологий. И ожидание возможных спектров сигналов из этих мест. Т.к. "достойные" (заметные) технологии часто будут изобретены искусственной, а не "самозародившейся" формой жизни.

Мы слишком "человечно" мыслим.

Zedmor @ 30.11.2016
Ты наверное не вполне понимаешь как работает криспр ;) Там нет никакой погрешности. Ну в том смысле, что мы можем создать организм, который все клетки другого организма "обработает" гарантировано заменив последовательность днк x на y. Почитай это реально очень прикольная технология. Рак лечат уже только в путь.

А где можно про это почитать? Конкретно про лечение рака.

tima @ 1.12.2016
Смысл в том, что система продвинутых организмов НЕискусственного происхождения вряд ли будет иметь мотивацию посылать очень далеко куски металла, даже если на них будет бережно перевозиться их форма жизни.
...
Следовательно, скорее всего придется решать вопрос на более высоком уровне..., а это часто приведет к созданию ИИ.

Так зачем решать вопрос, если нет мотивации его решать?

Для создания ИИ есть и более "краткосрочные" стимулы, вроде личного обогащения или гонки вооружений между странами. Он, вероятно, и будет заниматься терраформацией. Желательно в интересах людей.

ZiingRR @ 2.12.2016
Он, вероятно, и будет заниматься преобразованием космического пространства. Желательно в интересах людей.

А то терраформация по определению в интересах людей.

больнойублюдок @ 2.12.2016
А где можно про это почитать? Конкретно про лечение рака.

Zedmor не совсем прав.
Во-первых, насчет того, что "рак лечат только в путь" - это не вполне точно. Пока делают лишь первые попытки лечения рака этой технологией.
Генетическая панацея от рака исцелила мышей и готовится к испытанию на людях

В любом случае этот метод действительно выглядит потенциально эффективным.

Во-вторых, что касается того, что в самой технологии "нет никакой погрешности" - это тоже не совсем так. Погрешность есть хоть и небольшая. Другой вопрос - насколько она критична на практике.

paravozek, не забывайте что на данный момент большинство успешный применений crisp/cas продемонстрировано in vitro. Это когда выращивают культуру определенных клеток в пробирке и там над ней измываются.

Там можно обеспечить эффективную доставку чего угодно куда угодно (и то если поставлять модифицированные РНК с многократным перекрытием).

А в организме вот пока как у тебя по ссылке в новости "опухоли у подопытных оказались меньше чем у контрольной группы". Ну так они и от химии меньше становятся.

За этой технологией определенно будущее, но совсем не факт что ближайшее.

А вообще так, для понимания.

В данный момент почти все что связано с биотехнологиями - работает статистически.
Когда учёные "расшифровали геном", это не значит что они взяли клетку и прочитали оттуда ДНК.

Это значит что они взяли много-много клеток, выделили много-много ДНК, раздробили ее к чертям на кучу мелких кусочков, перемешали, прочитали что смогли, математически определили какие кусочки перекрываются и математически же восстановили по этим данным всю цепочку. С определенной погрешностью, неизбежной при такой технологии.

То же самое с редактированием генома. Вырастили кучу-кучу одинаковых клеток, забомбили их необходимыми РНК (в случае с крисп), отсеяли все то что не модифицировалось должным образом, пересадили модифицированное в другую емкость, вырастили из этого клеточную культуру, и на ней уже там проверяют чего у них получилось. И еще с десяток промежуточных стадий, которые я опущу уж.
И на каждом шаге есть некоторая погрешность.
Для определенных целей не критичная, для иных - может оказаться критичной.

В общем нет там хирургической точности пока.

Короче говоря:
"Методом проб и ошибок, полковник. Да уж, на пробы ничего не жалели."