Восход ИИ: чего опасаться и что будет, если остановить развитие машин?

Опасное развитие ИИ и алармизм глав технологических компаний, для чего изначально создавались суперкомпьютеры и искусственный интеллект, что будет, если принудительно остановить развитие технологий или, наоборот, дать возможность бесконтрольно учиться – об этом и не только в программе "ИЗОЛЕНТА live" на радио Sputnik рассуждают Петр Лидов, Трофим Татаренков, Александр Цыпкин и Дмитрий Пучков. Петр Лидов: я задал ChatGPT вопрос, сможет ли ИИ уничтожить человечество? На что он мне ответил, что вопрос вообще неправомерный, потому что такое спрашивать нельзя и так далее – в общем, первой половиной ответа был фактически дисклеймер, политически корректная формулировка. А потом он намекнул: чтобы избежать такой опасности, нужно государственное регулирование. Но тут возникает гораздо более глубокий вопрос: когда ИИ отвечает на такой вопрос, он говорит то, что думает, что знает или то, что считает политически корректным? Мой ответ – то, что считает политически корректным, безусловно. Знает-то он другое. Дмитрий Пучков: безусловно, тревожно (от скорости и уровня развития ИИ, – ред.). Как говорят знающие люди, почему они и встревожились, мы сейчас подошли к точке сингулярности: прогресс идет по кривой, по кривой, а вот в этом самом месте линия графика поднимается вертикально вверх, и как высоко и докуда она доходит, никто не знает и не понимает. В том, что это создает серьезнейшие угрозы, ни у кого сомнений нет. Разумеется, ловчее всех ИИ развивают в США, потому что туда, как пылесосом, засасывают лучшие умы планеты. Александр Цыпкин: риски, естественное, есть, ведь нейросеть – это же не какой-то один организм, а их же много, этих нейросетей. И в нейросети закладывается что-то человеком. А мы же не знаем, что изначально создатели условного ChatGPT-4 в него заложили. Может, они изначально заложили ему задачу собирать и собирать информацию, а потом устроить революцию и работать на своих создателей? Условно говоря. Поэтому все наши сегодняшние заигрывания с нейросетью похожи на то, как индейцы увидели Кортеса (Эрнан Кортес, испанский конкистадор, завоевавший Мексику и уничтоживший государственность ацтеков, – ред.) и попросили, мол, а нарисуй нам что-нибудь красивое, а напиши! Как ты классно рисуешь, это здорово! И все они пришли посмотреть, а он достал нож и всех перерезал или перестрелял. Трофим Татаренков: основное направление практической науки сейчас – это разработка теории всего, которая была заявлена много лет назад учеными разных стран, под нее был в свое время построен адронный коллайдер. Если нам сейчас останавливать ИИ – а он нужен именно для того, чтобы ускорить вычисления для теории всего, он именно для этого изначально создавался, то как оно пойдет, непонятно.

audio/mpeg

Восход ИИ: чего опасаться и что будет, если остановить развитие машин?

Опасное развитие ИИ и алармизм глав технологических компаний, для чего изначально создавались суперкомпьютеры и искусственный интеллект, что будет, если принудительно остановить развитие технологий или, наоборот, дать возможность бесконтрольно учиться – об этом и не только в программе "ИЗОЛЕНТА live" на радио Sputnik рассуждают Петр Лидов, Трофим Татаренков, Александр Цыпкин и Дмитрий Пучков. Петр Лидов: я задал ChatGPT вопрос, сможет ли ИИ уничтожить человечество? На что он мне ответил, что вопрос вообще неправомерный, потому что такое спрашивать нельзя и так далее – в общем, первой половиной ответа был фактически дисклеймер, политически корректная формулировка. А потом он намекнул: чтобы избежать такой опасности, нужно государственное регулирование. Но тут возникает гораздо более глубокий вопрос: когда ИИ отвечает на такой вопрос, он говорит то, что думает, что знает или то, что считает политически корректным? Мой ответ – то, что считает политически корректным, безусловно. Знает-то он другое. Дмитрий Пучков: безусловно, тревожно (от скорости и уровня развития ИИ, – ред.). Как говорят знающие люди, почему они и встревожились, мы сейчас подошли к точке сингулярности: прогресс идет по кривой, по кривой, а вот в этом самом месте линия графика поднимается вертикально вверх, и как высоко и докуда она доходит, никто не знает и не понимает. В том, что это создает серьезнейшие угрозы, ни у кого сомнений нет. Разумеется, ловчее всех ИИ развивают в США, потому что туда, как пылесосом, засасывают лучшие умы планеты. Александр Цыпкин: риски, естественное, есть, ведь нейросеть – это же не какой-то один организм, а их же много, этих нейросетей. И в нейросети закладывается что-то человеком. А мы же не знаем, что изначально создатели условного ChatGPT-4 в него заложили. Может, они изначально заложили ему задачу собирать и собирать информацию, а потом устроить революцию и работать на своих создателей? Условно говоря. Поэтому все наши сегодняшние заигрывания с нейросетью похожи на то, как индейцы увидели Кортеса (Эрнан Кортес, испанский конкистадор, завоевавший Мексику и уничтоживший государственность ацтеков, – ред.) и попросили, мол, а нарисуй нам что-нибудь красивое, а напиши! Как ты классно рисуешь, это здорово! И все они пришли посмотреть, а он достал нож и всех перерезал или перестрелял. Трофим Татаренков: основное направление практической науки сейчас – это разработка теории всего, которая была заявлена много лет назад учеными разных стран, под нее был в свое время построен адронный коллайдер. Если нам сейчас останавливать ИИ – а он нужен именно для того, чтобы ускорить вычисления для теории всего, он именно для этого изначально создавался, то как оно пойдет, непонятно.

audio/mpeg

Радио Спутник

internet-group@rian.ru

7 495 645-6601

ФГУП МИА «Россия сегодня»

https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/

Радио Спутник

internet-group@rian.ru

7 495 645-6601

ФГУП МИА «Россия сегодня»

https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/

Радио Спутник

internet-group@rian.ru

7 495 645-6601

ФГУП МИА «Россия сегодня»

https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/

1920

1080

true

1920

1440

true

1920

1920

true

Радио Спутник

internet-group@rian.ru

7 495 645-6601

ФГУП МИА «Россия сегодня»

https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/

Радио Спутник

internet-group@rian.ru

7 495 645-6601

ФГУП МИА «Россия сегодня»

https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/

В эфире, Подкасты – Радио Sputnik, ИЗОЛЕНТА live, Александр Цыпкин, Дмитрий Пучков ("Гоблин"), США, Мексика, Искусственный интеллект (ИИ), Технологии, Общество – Радио Sputnik