https://radiosputnik.ru/20230401/1862334241.html
Восход ИИ: чего опасаться и что будет, если остановить развитие машин?
Восход ИИ: чего опасаться и что будет, если остановить развитие машин? - Радио Sputnik, 01.04.2023
Восход ИИ: чего опасаться и что будет, если остановить развитие машин?
Опасное развитие ИИ и алармизм глав технологических компаний, для чего изначально создавались суперкомпьютеры и искусственный интеллект, что будет, если... Радио Sputnik, 01.04.2023
2023-04-01T11:04
2023-04-01T11:04
2023-04-01T12:13
в эфире
подкасты – радио sputnik
изолента live
александр цыпкин
дмитрий пучков ("гоблин")
сша
мексика
https://cdnn21.img.ria.ru/images/07e7/04/01/1862334142_0:0:1280:720_1920x0_80_0_0_e66c91356918b3b27cc622510269b188.jpg
Восход ИИ: чего опасаться и что будет, если остановить развитие машин?
Опасное развитие ИИ и алармизм глав технологических компаний, для чего изначально создавались суперкомпьютеры и искусственный интеллект, что будет, если принудительно остановить развитие технологий или, наоборот, дать возможность бесконтрольно учиться – об этом и не только в программе "ИЗОЛЕНТА live" на радио Sputnik рассуждают Петр Лидов, Трофим Татаренков, Александр Цыпкин и Дмитрий Пучков.
Петр Лидов: я задал ChatGPT вопрос, сможет ли ИИ уничтожить человечество? На что он мне ответил, что вопрос вообще неправомерный, потому что такое спрашивать нельзя и так далее – в общем, первой половиной ответа был фактически дисклеймер, политически корректная формулировка. А потом он намекнул: чтобы избежать такой опасности, нужно государственное регулирование. Но тут возникает гораздо более глубокий вопрос: когда ИИ отвечает на такой вопрос, он говорит то, что думает, что знает или то, что считает политически корректным? Мой ответ – то, что считает политически корректным, безусловно. Знает-то он другое.
Дмитрий Пучков: безусловно, тревожно (от скорости и уровня развития ИИ, – ред.). Как говорят знающие люди, почему они и встревожились, мы сейчас подошли к точке сингулярности: прогресс идет по кривой, по кривой, а вот в этом самом месте линия графика поднимается вертикально вверх, и как высоко и докуда она доходит, никто не знает и не понимает. В том, что это создает серьезнейшие угрозы, ни у кого сомнений нет. Разумеется, ловчее всех ИИ развивают в США, потому что туда, как пылесосом, засасывают лучшие умы планеты.
Александр Цыпкин: риски, естественное, есть, ведь нейросеть – это же не какой-то один организм, а их же много, этих нейросетей. И в нейросети закладывается что-то человеком. А мы же не знаем, что изначально создатели условного ChatGPT-4 в него заложили. Может, они изначально заложили ему задачу собирать и собирать информацию, а потом устроить революцию и работать на своих создателей? Условно говоря. Поэтому все наши сегодняшние заигрывания с нейросетью похожи на то, как индейцы увидели Кортеса (Эрнан Кортес, испанский конкистадор, завоевавший Мексику и уничтоживший государственность ацтеков, – ред.) и попросили, мол, а нарисуй нам что-нибудь красивое, а напиши! Как ты классно рисуешь, это здорово! И все они пришли посмотреть, а он достал нож и всех перерезал или перестрелял.
Трофим Татаренков: основное направление практической науки сейчас – это разработка теории всего, которая была заявлена много лет назад учеными разных стран, под нее был в свое время построен адронный коллайдер. Если нам сейчас останавливать ИИ – а он нужен именно для того, чтобы ускорить вычисления для теории всего, он именно для этого изначально создавался, то как оно пойдет, непонятно.
audio/mpeg
Восход ИИ: чего опасаться и что будет, если остановить развитие машин?
Опасное развитие ИИ и алармизм глав технологических компаний, для чего изначально создавались суперкомпьютеры и искусственный интеллект, что будет, если принудительно остановить развитие технологий или, наоборот, дать возможность бесконтрольно учиться – об этом и не только в программе "ИЗОЛЕНТА live" на радио Sputnik рассуждают Петр Лидов, Трофим Татаренков, Александр Цыпкин и Дмитрий Пучков.
Петр Лидов: я задал ChatGPT вопрос, сможет ли ИИ уничтожить человечество? На что он мне ответил, что вопрос вообще неправомерный, потому что такое спрашивать нельзя и так далее – в общем, первой половиной ответа был фактически дисклеймер, политически корректная формулировка. А потом он намекнул: чтобы избежать такой опасности, нужно государственное регулирование. Но тут возникает гораздо более глубокий вопрос: когда ИИ отвечает на такой вопрос, он говорит то, что думает, что знает или то, что считает политически корректным? Мой ответ – то, что считает политически корректным, безусловно. Знает-то он другое.
Дмитрий Пучков: безусловно, тревожно (от скорости и уровня развития ИИ, – ред.). Как говорят знающие люди, почему они и встревожились, мы сейчас подошли к точке сингулярности: прогресс идет по кривой, по кривой, а вот в этом самом месте линия графика поднимается вертикально вверх, и как высоко и докуда она доходит, никто не знает и не понимает. В том, что это создает серьезнейшие угрозы, ни у кого сомнений нет. Разумеется, ловчее всех ИИ развивают в США, потому что туда, как пылесосом, засасывают лучшие умы планеты.
Александр Цыпкин: риски, естественное, есть, ведь нейросеть – это же не какой-то один организм, а их же много, этих нейросетей. И в нейросети закладывается что-то человеком. А мы же не знаем, что изначально создатели условного ChatGPT-4 в него заложили. Может, они изначально заложили ему задачу собирать и собирать информацию, а потом устроить революцию и работать на своих создателей? Условно говоря. Поэтому все наши сегодняшние заигрывания с нейросетью похожи на то, как индейцы увидели Кортеса (Эрнан Кортес, испанский конкистадор, завоевавший Мексику и уничтоживший государственность ацтеков, – ред.) и попросили, мол, а нарисуй нам что-нибудь красивое, а напиши! Как ты классно рисуешь, это здорово! И все они пришли посмотреть, а он достал нож и всех перерезал или перестрелял.
Трофим Татаренков: основное направление практической науки сейчас – это разработка теории всего, которая была заявлена много лет назад учеными разных стран, под нее был в свое время построен адронный коллайдер. Если нам сейчас останавливать ИИ – а он нужен именно для того, чтобы ускорить вычисления для теории всего, он именно для этого изначально создавался, то как оно пойдет, непонятно.
audio/mpeg
Опасное развитие ИИ и алармизм глав технологических компаний, для чего изначально создавались суперкомпьютеры и искусственный интеллект, что будет, если принудительно остановить развитие технологий или, наоборот, дать возможность бесконтрольно учиться – об этом и не только в программе "ИЗОЛЕНТА live" на радио Sputnik рассуждают Петр Лидов, Трофим Татаренков, Александр Цыпкин и Дмитрий Пучков. Петр Лидов: я задал ChatGPT вопрос, сможет ли ИИ уничтожить человечество? На что он мне ответил, что вопрос вообще неправомерный, потому что такое спрашивать нельзя и так далее – в общем, первой половиной ответа был фактически дисклеймер, политически корректная формулировка. А потом он намекнул: чтобы избежать такой опасности, нужно государственное регулирование. Но тут возникает гораздо более глубокий вопрос: когда ИИ отвечает на такой вопрос, он говорит то, что думает, что знает или то, что считает политически корректным? Мой ответ – то, что считает политически корректным, безусловно. Знает-то он другое. Дмитрий Пучков: безусловно, тревожно (от скорости и уровня развития ИИ, – ред.). Как говорят знающие люди, почему они и встревожились, мы сейчас подошли к точке сингулярности: прогресс идет по кривой, по кривой, а вот в этом самом месте линия графика поднимается вертикально вверх, и как высоко и докуда она доходит, никто не знает и не понимает. В том, что это создает серьезнейшие угрозы, ни у кого сомнений нет. Разумеется, ловчее всех ИИ развивают в США, потому что туда, как пылесосом, засасывают лучшие умы планеты. Александр Цыпкин: риски, естественное, есть, ведь нейросеть – это же не какой-то один организм, а их же много, этих нейросетей. И в нейросети закладывается что-то человеком. А мы же не знаем, что изначально создатели условного ChatGPT-4 в него заложили. Может, они изначально заложили ему задачу собирать и собирать информацию, а потом устроить революцию и работать на своих создателей? Условно говоря. Поэтому все наши сегодняшние заигрывания с нейросетью похожи на то, как индейцы увидели Кортеса (Эрнан Кортес, испанский конкистадор, завоевавший Мексику и уничтоживший государственность ацтеков, – ред.) и попросили, мол, а нарисуй нам что-нибудь красивое, а напиши! Как ты классно рисуешь, это здорово! И все они пришли посмотреть, а он достал нож и всех перерезал или перестрелял. Трофим Татаренков: основное направление практической науки сейчас – это разработка теории всего, которая была заявлена много лет назад учеными разных стран, под нее был в свое время построен адронный коллайдер. Если нам сейчас останавливать ИИ – а он нужен именно для того, чтобы ускорить вычисления для теории всего, он именно для этого изначально создавался, то как оно пойдет, непонятно.Такого Telegram-канала, как у нас, нет ни у кого. Он для тех, кто хочет делать выводы сам.
сша
мексика
Радио Sputnik
internet-group@rian.ru
7 495 645-6601
ФГУП МИА «Россия сегодня»
https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/
2023
Радио Sputnik
internet-group@rian.ru
7 495 645-6601
ФГУП МИА «Россия сегодня»
https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/
Новости
ru-RU
https://radiosputnik.ru/docs/about/copyright.html
https://xn--c1acbl2abdlkab1og.xn--p1ai/
Радио Sputnik
internet-group@rian.ru
7 495 645-6601
ФГУП МИА «Россия сегодня»
https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/
Радио Sputnik
internet-group@rian.ru
7 495 645-6601
ФГУП МИА «Россия сегодня»
https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/
Радио Sputnik
internet-group@rian.ru
7 495 645-6601
ФГУП МИА «Россия сегодня»
https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/
в эфире, подкасты – радио sputnik, аудио, александр цыпкин, дмитрий пучков ("гоблин"), сша, мексика, искусственный интеллект (ии), технологии, общество – радио sputnik
В эфире, Подкасты – Радио Sputnik, ИЗОЛЕНТА live, Александр Цыпкин, Дмитрий Пучков ("Гоблин"), США, Мексика, Искусственный интеллект (ИИ), Технологии, Общество – Радио Sputnik
Опасное развитие ИИ и алармизм глав технологических компаний, для чего изначально создавались суперкомпьютеры и искусственный интеллект, что будет, если принудительно остановить развитие технологий или, наоборот, дать возможность бесконтрольно учиться – об этом и не только в программе "ИЗОЛЕНТА live" на радио Sputnik рассуждают Петр Лидов, Трофим Татаренков, Александр Цыпкин и Дмитрий Пучков.
Петр Лидов: я задал ChatGPT вопрос, сможет ли ИИ уничтожить человечество? На что он мне ответил, что вопрос вообще неправомерный, потому что такое спрашивать нельзя и так далее – в общем, первой половиной ответа был фактически дисклеймер, политически корректная формулировка. А потом он намекнул: чтобы избежать такой опасности, нужно государственное регулирование. Но тут возникает гораздо более глубокий вопрос: когда ИИ отвечает на такой вопрос, он говорит то, что думает, что знает или то, что считает политически корректным? Мой ответ – то, что считает политически корректным, безусловно. Знает-то он другое.
Дмитрий Пучков: безусловно, тревожно (от скорости и уровня развития ИИ, – ред.). Как говорят знающие люди, почему они и встревожились, мы сейчас подошли к точке сингулярности: прогресс идет по кривой, по кривой, а вот в этом самом месте линия графика поднимается вертикально вверх, и как высоко и докуда она доходит, никто не знает и не понимает. В том, что это создает серьезнейшие угрозы, ни у кого сомнений нет. Разумеется, ловчее всех ИИ развивают в США, потому что туда, как пылесосом, засасывают лучшие умы планеты.
Александр Цыпкин: риски, естественное, есть, ведь нейросеть – это же не какой-то один организм, а их же много, этих нейросетей. И в нейросети закладывается что-то человеком. А мы же не знаем, что изначально создатели условного ChatGPT-4 в него заложили. Может, они изначально заложили ему задачу собирать и собирать информацию, а потом устроить революцию и работать на своих создателей? Условно говоря. Поэтому все наши сегодняшние заигрывания с нейросетью похожи на то, как индейцы увидели Кортеса (Эрнан Кортес, испанский конкистадор, завоевавший Мексику и уничтоживший государственность ацтеков, – ред.) и попросили, мол, а нарисуй нам что-нибудь красивое, а напиши! Как ты классно рисуешь, это здорово! И все они пришли посмотреть, а он достал нож и всех перерезал или перестрелял.
Трофим Татаренков: основное направление практической науки сейчас – это разработка теории всего, которая была заявлена много лет назад учеными разных стран, под нее был в свое время построен адронный коллайдер. Если нам сейчас останавливать ИИ – а он нужен именно для того, чтобы ускорить вычисления для теории всего, он именно для этого изначально создавался, то как оно пойдет, непонятно.
Такого Telegram-канала, как у нас, нет ни у кого. Он для тех, кто хочет делать выводы сам. 
