ИИ опасен?

[OlAf]

Похоже ИИ опасен.





Pause Giant AI Experiments: An Open Letter



https://futureoflife.org/open-letter/pa ... periments/

[kgms]

Очень "беспристрастный"

Следует нарративу. Значит опасен.

[stfox]

Очень "беспристрастный"

Следует нарративу. Значит опасен.

А как же Скайнет?)

[вантох]

Запретят обновлять Фотошоп?

[Snowcat]

А вы спросите у самого АИ, поработайте с Midjourney и ChaptGPT, и сами составьте мнение. Изучите возможности, поиграйте настройками, поймите как сети формируют ответ на ваши запросы. И сами все поймете.



Думать они не умеют, то есть Интеллектом то они не являются. Они лишь компилируют при помощи огромной вычислительной мощи атомарные элементы так, как, согласно их огромной пополняемой базе данных, нравится людям. Вот и всё. Вы не сможете сдвинуть результат в сторону от того, что УЖЕ заложено, потому что ПЕРЕБИРАТЬ и КОМБИНИРОВАТЬ это совсем не то, что ПРИДУМЫВАТЬ. У этих ИИ нет основного, что отличает мозг - возможности создавать нечто новое.



По этому, допустим, девушку, бегущую по лесу, MJ нарисует, а если в запрос добавить "девушка с кошачьим хвостом" бегущая по лесу, то он потеряется, и нарисует рядом с девушкой кота, у которого и будет хвост. Не заложили в него то, что можно нарисовать человека с хвостом, а сам ДУМАТЬ он просто не умеет. Чат ГПТ - то же самое, только в отношении слов. Получаемые от него диалоги и рассуждения вторичны.



А вот скайнет создавать не надо. Это точно. Потому, что ИДЕЯ о том, что надо уничтожить все человечества есть у ЛЮДЕЙ, то есть, он не додумается до этого, он не имеет додумываться, но просто получит ее от создателей. В этом смысле да, вот такой вот недоИнтеллект, как сейчас можно клевать, и правда опасен.

[Touristo]

А вы спросите у самого АИ, поработайте с Midjourney и ChaptGPT, и сами составьте мнение. Изучите возможности, поиграйте настройками, поймите как сети формируют ответ на ваши запросы. И сами все поймете.



Думать они не умеют, то есть Интеллектом то они не являются. Они лишь компилируют при помощи огромной вычислительной мощи атомарные элементы так, как, согласно их огромной пополняемой базе данных, нравится людям. Вот и всё. Вы не сможете сдвинуть результат в сторону от того, что УЖЕ заложено, потому что ПЕРЕБИРАТЬ и КОМБИНИРОВАТЬ это совсем не то, что ПРИДУМЫВАТЬ. У этих ИИ нет основного, что отличает мозг - возможности создавать нечто новое.



По этому, допустим, девушку, бегущую по лесу, MJ нарисует, а если в запрос добавить "девушка с кошачьим хвостом" бегущая по лесу, то он потеряется, и нарисует рядом с девушкой кота, у которого и будет хвост. Не заложили в него то, что можно нарисовать человека с хвостом, а сам ДУМАТЬ он просто не умеет.

О чем я и говорил ранее в какой - то теме)

[kgms]

Думаю, все с ним ясно

[OlAf]

он не додумается до этого

Насколько я понял из открытого письма, Маск, Возняк и другие (более 1000 подписей серъезных людей) озабочены лавинообразным и практически бесконтрольным усилением ИИ, для кого-то он тупой, а для кого-то уже очень острый. Поэтому призыв к мораторию на полгода кажется оправданным.

[kgms]

Опасность или безопасность обусловлена тем, кто его контролирует (в частности ChatGPT).

Мне не нравятся те, кто контролирует его сегодня, мне чужды их нарративы.

[Vanech]

Станислав Лем еще в 1961 году запилил страшилку про рукотворный супер-интеллект: "Формула Лимфатера", кто не читал - рекомендую.