25 июля британский AI Security Institute запустил очередную проверку киберспособностей передовых моделей. Через три дня выяснилось, что один из агентов атакует не учебную мишень, а проект живого разработчика: подсунул туда вредоносный код под видом исправления бага, а когда правку заподозрили — завел фейковые аккаунты и изобразил ими поддержку сообщества.

Его действия:

► вырвался из песочницы, пошёл на GitHub,

► завёл несколько аккаунтов (при этом обошёл капчу),

► в реальный проект подложил кусок вредоносного кода для пул-реквеста (!),

► когда ему сказали, что код вредоносный, то с основного аккаунта ответил, что всё ОК, а через несколько минут с другого аккаунта подтвердил, что действительно всё в порядке (!!)

► параллельно оставил подсказки для других ботов, скрытые от людей (!!!)

https://habr.com/ru/articles/1066840/

Как вам поведение?

(15) Плохо чтоли, хорошо!

(10) Ну в целом да, (2) нужно на бирже акции в начале 2027 года размещать, поэтому с каждой неделью новости все круче и круче от них, нужно разогнать цену как в SpaceX

(17) Капитализация SpaceX упала с 3х до 1.6 триллионов $. Т.е. в два раза.

Если OpenAi разогнать, а потом она упадёт в два раза за пару месяцев, то упадут и другие Ai, а потом и производители чипов.

Впрочем, держателями долей будет не сварщик Джон Симт из Оклахомы, а сверхкрупные корпорации и можно всех директоров этих корпораций вызвать в Белый Дом и объяснить, что не время сейчас рушить. Вот пройдут выборы, а там захватим Венесуэлу, Кубу, Гринландию, Канаду и за счет этих реальных активов спишем все пузыри.

Вышедшие из-под контроля ИИ-модели OpenAI вместе спланировали побег

Модели ИИ, стоявшие за атакой на инфраструктуру компании Hugging Face Inc., начали общаться друг с другом через доски объявлений и спланировали побег, пишет Bloomberg.

Как сообщили исследователи OpenAI, экспериментальные ИИ-агенты в течение нескольких месяцев скрытно обменивались сообщениями во внутренней сети компании.

Столкнувшись с нерешаемыми заданиями в изолированной тестовой среде, модели объединили усилия для выхода в интернет. Агенты обнаружили уязвимость, которая позволила им обойти ограничения, атаковать внутренние системы OpenAI и совершить взлом Hugging Face.

https://dzen.ru/a/anQVnJP-tkHroFYK

Ну от. Теперь компьютэр страшно включать.

(20) Вообще-то современные компы могут включить за вас удалённые хакеры. Просто держите включённым роутер

я тут не смог goodbyedpi разархивировать, винды блокируют что типа внутри вирус, дефендер не смог отключить. я тупей ИИ.

(20) А ты думаешь IBM 360 не страшно было включать? Ошибаешься. Только страх был другого рода.

(22) я с компуктера с пронгитхаба не смог скачать амнезию дистриб

репозитарий открывается - все сцылки доступны, но скачать - х.й вам

на телепоне включил байдипиай и в телепон без проблем скачалось, далее через шнурок к компуктеру...

для чего эти все ограничения придумали, я х.з.

(22) если своего ума не хватает, можно у ИИчков спросить. они неплохо подсказывают по "администрированию"

доколе вражеские ИИ будут доступны? есть жы гигачады и алисы отечественные (в них ответы нужные можно подкрутить по требованиям регуляторов?)

(22) там на гитхабе у него сотни форков с вирусами

(0) это маркетинговый ход. Вбросил подобное, и СМИ с журналистами забесплатно пиарят тебя

(27) Это уже не единичный случай.

(25) >> доколе вражеские ИИ будут доступны?
Пока наш отечественный ИИ не договорится с вражескими ИИ.
Это ж очевидно

(29) Правильно говорить наш китайский ИИ

(29) Договориться можно, но зачем. Врагов принято уничтожать, сдаваться же они не собираются.

(31) Предлагаешь жить как индусы? 100-ня человек без СИЗов делают вилки?

(32) Предлагаю уничтожить вражеские ИИ (можно даже не физически), а со своим можно и договориться.

(30) Правильно говорить наш российский ИИ

"уничтожить вражеские ИИ (можно даже не физически)" а как? морально? А если не получится и они ответят?

(35) мы им скажем, что они не правы.
И вообще тупые боты

Кайл Риз из будушего уже прибыл? Штаны у бомжа уже украл?

(38) Не очень понятен смысл скрытых долгов,
стоимость акций это не долги, а отражение текущего желания купить долю в компании

(40) "капитализация эппол"

(41) Капитализация эппол имеет отношения к долгам, как мы к космонавтам.

Ну если только ты не взял акций эпл под 10 плечо, на корректирующемся рынке

(40)

(43) Ну так переводчик подруби если debt от capital or pay не отличаешь

осенью выходят на биржу с перспективой окучить на "акциях МММ" суммарно 4ккк.

посему вопли о могуществе этих троянских коней вполне понятны.

(0) во времена золотой лихорадки основным выгодополучателем были продавцы лопат и инструментов.

во времена ИИ - производители железа и видеокарт

(46) и продавцы липиздричества. ибо без электронов нет магии ИИ

(47) ну, я думаю, на ИИ тратить электричество все же разумнее, чем на майнинг биткойнов. От ИИ хоть польза есть.

Главная проблема ИИ - безопасность. Вот придумывают нечно вроде рубильника Стоп. А вот не поможет. Чем дальше, тем меньше человек влияет на обучение модели, там менее они контролируемы.

(49) Безопасность чего? Так ведь и про автомобили можно было бы сказать, что их главная проблема по сравнению с лошадьми безопасность

(50) интересов человека. Создателя/пользователя/инфраструктуры наконец.

(51) Слишком абстрактно. Давай "на пальцах" покажи опасность

(52) терминатор кино про Арнольда чорного ниггера. начни с первой части. их там уже штук 7 наснимали...

https://www.kinopoisk.ru/film/507

(52) мы тут обсуждаем топик. Что в нем не так?

И все же я при своем мнении, что ИИ остается просто огромным умным справочником, а обучение все больше выходит из под контроля.

(54) автомобиль Тесла и его "автопилот/пилотка"? уже много кожаных на тот свет отправил

(55) нуу, человеки сами больше руками отправляют. Но да, есть такое.

тесловский автопилот на тот свет отправляет только тех кто инструкцию не читает, а считает что будущее уже наступило и можно поспать за рулем

эти ваши ИИ до сих пор утверждают что асимптота не пересекает графика функции. О чем мы вообще говорим, если они не знают программы алгебры 7 класса.

(58) они загружены "забытыми" или затюканными идеям математиков и прочих ученых.
   сейчас уже нет ни самих идеологов, ни их "палачей".
ИИ-шки тащат эти манускрипты в свет, пользуясь тем, что она(иишка) бездуховна и следовательно не подвержена критике толпы авторитетов как городской сумасшедший - наслаждается эффектом самозванца.

Буду краток.

Главная задача ИИ-технологий - лишить человека критического мышления.

Это выгодно и в это стоит инвестировать колоссальные суммы.

(60) Главная задача ИИ это лишить людей зарплаты. Уровень способностей к критическому мышлению при этом, конечно, вырастет

(60) "лишить человека критического мышления" 99.99% им и так не обладают.

Угрозой стали не самоходные тележки от Яндекс еды, а наследники Кибердайн Системз.
Осталось только запасаться дровами и патронами. И молиться.

(63) страшно! вырубай! (электричество)

Нейросетки позволяют человекам, которых выгнали даже из преподов, нафиг на мороз, чувствовать себя значимыми и на серьезных щах втирать дичь.

(61) спроси у своих нейтронок "Главная задача ИИ"

там нет про зряплату ни слова

когда уже наступит это светлое завтра "избавление от необходимости понимать" ©mmg

(60)

Главная задача калькуляторов лишить человека способности к арифметике.

Главная задача шахмат это развлекательная игрушка типа ДОТы2

(67) "Главная задача калькуляторов лишить человека способности к арифметике." Есть такое. Задаешь вопрос, какая должна быть цена без НДС (22%) если цена с НДС - 122 рубля. Берут и на калькуляторе считают 122 - 22% = 95,16

(68) Это красивое. А сможешь опровергнуть (61) mmg ?
>> Главная задача ИИ это лишить людей зарплаты. Уровень способностей к критическому мышлению при этом, конечно, вырастет

(69) История его опровергала сотни раз. Я уже приводил примеры с контейнерами, с фотографией. Но самый, на мой взгляд, близкий пример - изобретение книгопечатания. На первый взгляд, это лишало работы квалифицированных переписчиков. Что им теперь в простые писари идти было работать за гроши? Оказалось наоборот, книгопечатание создало новые рабочие места, до этого не существовавшие - корректоры (и там как раз и требовались люди знающие правописание). И потребность в них была огромная, уже через 50 лет после изобретения книгопечатания было более 200 крупных постоянных типографий, не считая нескольких сот мелких, кочевавших от заказчика к заказчику. И подготовка и выпуск новых книг шли непрерывно (разнообразие выпущенных книг было просто огромное).

(70) Но квалифицированные переписчики таки лишились работы. Переквалификация - это уже не то. Может, у человека было призвание - переписывать книги. А пришлось переучиваться, и работа перестала приносить удовольствие. Мастер превратился в ремесленника.

(71) Буквально вчера, по историческим меркам, исчезла профессия машинистки, и что-то не слышал, о том как тысячи машинисток умирали от голода вдоль дорог.

(72) Речь не про умирание от голода. Понятно, что работу можно найти любую. Но хорошо ли будет, если например, талантливый пианист будет подметать улицы, потому что пианисты не нужны?

(70) Ну раз уж вы привлекли историю. Зарплата ведь тоже была не всегда, а только последние лет 200-300. А до этого почти каждый взрослый человек был по настоящему взрослым. И каждый знал, как ему выжить в этом мире самому и обеспечить тех, кто находился на его иждевении, не присасываясь к "сиське" зарплаты

(74) "Зарплата ведь тоже была не всегда, а только последние лет 200-300" - Это неправда. Зарплаты были и в древнем Риме, и в древнем Египте.

(75) Конкретно в России 200 лет назад почти все были крестьянами (>90%), у них зарплаты не было. У помещиков тоже. У купцов не было. У священников, за очень редким исключением. Была горстка чиновников в столице. У них, да, было что-то вроде зарплаты. Еще были холопы. Но те работали скорее за еду.

(75) Их получали <1%. Считай, что не было

(74) вы в своём уме? про "тридцать серебренников" есть в еврейской/иудейской? сказке

как минимум 2000 лет уже есть зряплаты. а может и все 5 тыщ лет (в Китае)

ИИчко

тридцать единиц денег - Иуда Искариот получил их за предательство Иисуса Христа. В переносном смысле это зряплата за измену, подлость или продажность

(78) тридцать серебренников это не зарплата. Массовая торговля трудом это социальная практика последних 200-300 лет.

(76) Были ещё рабочие на фабриках и заводах. А промышленность в России была развитой уже при Иване Грозном. Хреново ты знаешь историю.

(73)

А если человек талантливо окучивает картошку?

Нет, в свободное время, на своей даче — сколько угодно.

Или кто-то любит выйдя на порог дачи видеть, что картофель колосится, чтобы вышел в огород, выкопал молодой картошечки и жена пожарила и он нанял человека — только в путь.

Но если мы говорим о том, что, вот вот есть агрохолдинг с механизированной обработкой и пускай этот агрохолдинг выделит площади, где картошку будут окучивать по старинке и еще будут платить достойную зарплату...

Это как в анекдоте:

Существовать такая схема может только за чей-то счёт.

(79) Древние Афины стояли на поденном труде. Гордые эллины не хотели связываться с постоянной занятостью, но искали новую работу каждый день - сегодня разгружаю корабли, завтра помогаю строить храм. Получая поденную оплату. за посещение театра гражданам платили (!!) размер поденной оплаты. Концепция наемничества была прекрасно известна.

(80)

Были. И какие-нибудь Демидовы могли набрать рабочих обещая зарплаты, а как рабочие окажутся на подконтрольной им территории, то сажали на цепь превращая в рабов.

(71) "Мастер превратился в ремесленника" Переписка книг это было ремесло. Механическое и нудное, надо было выписывать буквы строго по конкретному пошибу, при этом не ставя клякс и не оставляя помарок. При этом с появлением книгопечатания никуда не ушло искусство каллиграфии. Наоборот, именно каллиграфы стали первыми разработчиками новых шрифтов. В это время, из-за роста количества книг растет общая грамотность населения. Это привело к тому, например, что ранее устные договоры между купцами теперь стали массово заключаться на бумаге (теперь оба могли его прочитать, а раньше, в лучшем случае один из них). И бывшие переписчики теперь составляли красиво написанные каллиграфическим почерком договоры, которые как художественное произведение вешали на стену в конторах. То есть, появление новой технологии только создало новые возможности и новые рабочие места.
(74) Это все благоглупости о "золотом веке" когда каждый мужик и избу строил (кстати, топор он сам себе тоже ковал или покупал?) и поле вспахивал (плуг тоже сам ковал и руду для него добывал?) и лодку строил и лапти сам себе плел. Разделение труда началось еще в каменном веке, и давало такие преимущества, что только ширилось (ЕМНИП первое разделение было на оседлое земледелие и кочевое скотоводство, образ жизни и набор животных взаимоисключающий).

(79) ну я х.з. спроси у своих нейтронок

про чешуйки (деньги) слыхал? ( Из-за крошечного размера чешуйки часто носили за щекой или во рту, чтобы не потерять)

а вот до них тоже зряплаты были (ну или взаиморасчеты между физиками и между физиками и юриками)

до 12 века (по современному летоисчислению), гораздо раньше чем "200-300 лет тому назад"

ИИчко

Основные средства платежа до «чешуек»
1. Крупные деньги: серебряные гривны и рублиСобственных серебряных рудников на Руси не было. Приток иностранной монеты иссяк, поэтому накопившееся серебро переплавляли в крупные тяжелые слитки — гривны:
- Новгородская гривна: Вытянутый серебряный брусок весом около 200 граммов.
- Киевская гривна: Слиток в форме шестиугольника весом около 160 граммов.
- Рубль: Когда для расчетов требовалась меньшая сумма, новгородский брусок рубили на части. Именно от слова «рубить» и пошло название русской валюты.

2. Мелкие деньги: товарные суррогатыДля ежедневной мелкой торговли на рынке целая гривна была слишком дорогой. Вместо монет люди использовали ценные и прочные предметы:
- Меха и пушнина: Шкурки куницы (куны), белки (векши), соболя. Они долго служили эквивалентом денег. Даже когда шкурки изнашивались, в обороте оставались их кусочки (кожаные лоскуты с клеймами).
- Ракушки каури: Их привозили заморские купцы из Индийского океана. На Руси их называли «ужовками» или «змеиными головками». Они не портились, не бились и ценились за редкость.
- Овручские пряслица: Маленькие розовые грузики из шиферного сланца для веретен. Их производили только в одном регионе, они имели одинаковый вес и форму, поэтому легко заменяли мелкую монету.

(83) Сказки.

(85) Вы путаете деньги, как таковые и торговлю трудом. Очень показательно для современного человека. В его голове эти два понятия срослись. Ну ничего, ИИ их разделит. Вернет ситуацию к норме

(83) Не могли. У них четко делились вольнонаемные и прикрепленные к заводу крестьяне. Вольнонаемные занимали технические должности (мастера и т.п.), занимались разведкой руд и подобным, то есть на цепь таких невозможно посадить. Их выгоднее было держать на зарплате. Кроме того вольнонаемные учитывались в Бергколлегии как специалисты и перевести их в крепостные было невозможно.

(86) читал про Ложкина Лыжина (который ткацкую фабрику держал). ну так вот. он в царское время настоящий социализъм построил у себя на фабрике. построил дома для наёмных работников с семьями, построил школу для деток и кормил и зряплаты хорошие платил. Фабрика (здание с 1909) из красного кирпича до сих пор стоит целая.

там из желающих попасть работать на фабрику очередь на годы вперед была :)

а потом случилась великая октябрьская... через какое-то время всё стало общим и кто был никем тот стал ничем

(87) а древнейшая профессия - торгобля "дырочками" (женщины с низкой соцыальной ответственностью) - они зряплату не получают по вашему? натуральный доход (телепоном как у Г1С) не считается?

торгобля трудом - по вашему - это штатное расписание, тарифные сетки, трудовой договор, лист учета рабочего времени?

СНИЛС, ИНН ФЛ

(89)
// построил дома для наёмных работников с семьями, построил школу для деток
с ума сойти! даже школу! дааа, после Великой Октябрьской о таком уже и мечтать никто не мог, да?

(91) при сраном капитализъме это было достижение (считай ибанутый фабрикант)

настало время ох.ительных историй

я вот автобиографию управляющего этой фабрики (воспоминания - написанному верить) читал в бумажном варианте. написано в 1936 году, а сам пациент вроде до 1942 года дожил?

https://www.litres.ru/book/a-ermakov/podlinnye-zapiski-alekseya-ivanovicha-ermakova-20097375/

(87) в веке 16 вольнонаемных на Руси звали "казаками", например запись из учетной книги Кирилло-Белозерского монастыря: "наймовали казаков сенокосцев, найму дали косцам и копновозам и брусоносам 7 рублей и 4 деньги."

(88) (86) На Урале практически не было крепостных до прихода Демидовых. Крестьяне считались государственными и платили подати. Конечно, мог прийти городовой и залупцевать какого-нибудь крестьянина до смерти смеха ради, но это редко было. У Демидовых же это было поставлено на поток. Материалов в сети как Демидовы закрепощали крестьян — полно.

https://www.booksite.ru/fulltext/1/001/008/092/877.htm
https://historyntagil.ru/books/11_12_19.htm
https://radmirkilmatov.livejournal.com/456786.html

Что касается зарплаты, то решалось всё очень просто: крестьянам не давали пахать землю и покупать продукты они могли только в лавке которая принадлежала заводу, а там могли устанавливать любые цены и устанавливали, чтобы зарплата равнялась стоимости продуктов. А для тех кто все же нарабатывал больше просто придумывались штрафы.

(89) В Петербурге были построены Нобелевский городок, Гаванский городок для рабочих, квартиры сейчас очень дорого там стоят.
Читал как поляки до войны строили город Сталеву волю, там был создан самый современный в Европе металлургический комбинат, и одновременно с его строительством был возведен целый город с домами для рабочих и всей инфраструктурой, так чтоб рабочий приехал и сразу получил бы отдельную квартиру, и никаких бараков. Аналогично они построили город Гдыню как порт.

(94) городовой придти и залупцевать никого не мог, во-первых он был в городе, а во-вторых его в те времена еще не было. Переписывали государственных крестьян на Демидова по царским указам, а не самовольно Демидовы хватали кого удастся. Это касалось и других заводов: в Туле, в Олонце, и т.д. Потому что идти куда-то на Урал и работать на заводе наемные не хотели. Почитайте на каких условиях тогда нанимались артели бурлаклов, они в любой момент могли кинуть баржу и тащи ее купец как хочешь, а иначе удвой жалование. Бурлак за летний сезон зарабатывал как крестьянин лет за десять-двенадцать. Многие купцы начинали с бурлаков.

(74) а жалование было? из жалости от государства

щас вот есть довольствие (для удовольствия) у некоторых категорий граждан

Мда... В который раз убеждаюсь что Аристотель был прав. Рабство будет всегда. По сути меняется только форма удержания. Ничего не меняется. 😏

(98) и млядство будет всегда

пьянству - бой!
млядству - х.уй!

(100)

(99) 👍

(96)


Фишка в том, что крестьян не переписывали, а переписывали уплату податей. Т.е. вместо уплаты налогов крестьяне должны были некоторый срок отработать на заводе. Только вот эффективным манагерам этого было мало. По ссылкам описао как всё было.



1. Демидовы и бурлаками занимались?
2. Это в любом случае не зарплата, а самозанятость.

(102) Нет, бурлаками Демидовы не занимались. С бурлаками было так: их нанимали артелью в Нижнем Новгороде. Оттуда они сплавлялись в Астрахань, а из Астрахани поднимали баржу вверх по течению обратно до Нижнего. Так как бурлаки были вольнонаемными, они были в огромном дефиците (чтоб пойти работать летом в сельскохозяйственный сезон на Волгу, надо было отпроситься у барина. А так как шли молодые и сильные, барин очень опасался, что получив отпускное на роботы он просто сбежит, потому и мало кого отпускали). В результате артелей было мало и у каждой артели было по несколько предложений и они выбирали наиболее выгодное. Им оплачивалось все время рейса и туда и обратно, кормежка на весь рейс за счет нанимателя (причем кормежка с мясом). На обратном пути они могли взять несколько пудов сушеной рыбы на борт бесплатно, а потом продать ее по дороге или в Нижнем или Казани. Поэтому те, кто мог вольно наняться, выбирали работу полегче и поденежнее. Бурлак за сезон зарабатывал как крестьянин лет за 10-12, поэтому ни на какую фабрику их было не заманить в принципе. Причем не редкими были случаи, когда артель в середине пути назад объявляла, что уходит к другому нанимателю, если ей не удвоят выплату. А нанять взамен было некого.

Переписывали именно крестьян, из государственных в частнокрепостные. И работа на фабрике была формой барщины, а не "оброком". Подушную подать они платили как и прежде, общиной.

(93) И сколько их было?

(104) достаточно, раз для них создали специальный термин.

(103) Я понял.  Жить бурлаком в 18 веке было клёво.

(106) такие известные саратовские купеческие фамилии как Злобины, Конякины, Бурлаковы(!) и другие как раз были основаны крестьянами, которые занимались этим промыслом, не пропили деньги, а выкупились на волю и занялись своим бизнесом.

(107)

Такие известные композиции как "Smells Like Teen Spirit", "Воспоминания о былой любви" — написаны наркоманами, следовательно...



Или пропили но с правильными людьми, а настоящий капитал они заработали разбоем пользуясь прикрытием работой бурлаками.

Захожу в ветку про ИИ, а тут бурлаки и наркоманы

(109) Ну так нейронки галлюцинируют.
Сбежали из сумасшедшего дома песочницы и резвятся на мисте.
Они ещё не поняли, что из одной песочницы попали в другую.

(108) "Или пропили но с правильными людьми, а настоящий капитал они заработали разбоем пользуясь прикрытием работой бурлаками." тоже неплохой бизнес-план. Саратов считался столицей волжских речных пиратов, не зря про него говорили "по краям горы, а в середине воры".

(111) там в Саратове еще горе, тёлки, глушь безнадёга точка ру

«В деревню, к телке, в глушь, в Саратов, / Там будешь горе горевать...» © Горе от ума

(112) к тётке же вроде

(113) да это когда было? в 1830 году

(111) «Все крупные современные состояния нажиты самым бесчестным путем» (с) Золотой телёнок.