LCZero

[Neofelis]

Это фантазии, никакого отношения к реальности не имеющие. Если теорию не понимаете, то хотя бы на практику посмотрите: Лилаштейн натренирована на всем, что под руку попадалось и сеть там тоже увеличивается. Итого, играет сильнее.
Нет никакой разницы, какого размера сеть генерила партии. Важно само их качество.

[sergey1963]

бред- полный...
ну и почему взяли сеть 3010, а не 3200?

[Maratka]

Цитата: Сообщение от Neofelis

Лилаштейн натренирована на всем, что под руку попадалось и сеть там тоже увеличивается. Итого, играет сильнее.

Никто не говорит, что оно не будет играть сильнее.

Вопрос в том, что оно может стать еще сильнее, если тренировать на родных для тренируемой сети партиях.

[Neofelis]

Не так. Если бы была база партий Стока на пару миллионов - то сеть была бы сильне, чем на родных. А еще лучше совместить две базы, и тогда была бы сеть еще сильнее.

[Maratka]

Цитата: Сообщение от Neofelis

Если бы была база партий Стока на пару миллионов - то сеть была бы сильне, чем на родных.

Напомните пожалуйста, какое место в табели о рангах занимает Анти-Фиш?

[Neofelis]

Я говорю об миллионах партий. Причем с разумным nps. Где бы он не зевал на каждом ходу.

[Maratka]

Цитата: Сообщение от Neofelis

Я говорю об миллионах партий. Причем с разумным nps. Где бы он не зевал на каждом ходу.

Миллионы партий есть у ChessBase, так как там играется ~5000 партий за сутки в комнате движков на типовых 5 минут и 8-12 потоков. На таком контроле и железе оно на кажом ходу не зевает.

Результат (FatFritz) мы все видели.

[svoitsl]

Цитата: Сообщение от Neofelis

Нет никакой разницы, какого размера сеть генерила партии. Важно само их качество.

Вон например на новых играх сети T60 натренировали сеть размером 10х128, и она оказалась даже чуть лучше,чем родная сеть 591226
Правда разница к сожалению ничтожна

[Александр Руденко]

Цитата: Сообщение от Maratka

Миллионы партий есть у ChessBase, так как там играется ~5000 партий за сутки в комнате движков на типовых 5 минут и 8-12 потоков. На таком контроле и железе оно на кажом ходу не зевает.

Результат (FatFritz) мы все видели.

на playchesse играет в сутки в комнате движков в среднем около 2400 в день ! на многоядерных компах, чуть больше 100 партий за час, это я знаю по себе т.к. собираю их там каждый день 24 часа в сутки

[Maratka]

Цитата: Сообщение от Александр Руденко

на playchesse играет в сутки в комнате движков в среднем около 2400 в день !

Допустим. Это где-то 800-900 тыс. партий в год. Т.е. требуемые пара миллионов набирается чуть более, чем за два года.

[svoitsl]

Цитата: Сообщение от Maratka

Т.е. требуемые пара миллионов

Ну ещё не совсем факт, что все они будут выше хотя бы 3500-3600 Эло, а ведь нам бы хорошо бы 2 млн уровня 3800 Эло

[Maratka]

Ну я вообще не знаю, по какой системе там Elo считается. У моей железки около 2500, лучшие по ~60 ядер набирает чуть более 2600, т.е. как те Elo пересчитать в привычные нам - х.з. Однако, т.к. там играют самые обычные, вполне актуальные на некий момент времени SF'шы (коих ~90%), то думаю партии там соответствуют Вашему критерию.

[Александр Руденко]

Цитата: Сообщение от Maratka

Допустим. Это где-то 800-900 тыс. партий в год. Т.е. требуемые пара миллионов набирается чуть более, чем за два года.

но вот смотри у меня сейчас база с 2019г. по сегодня т.е. всего полтора года партий плейчесса - 1 миллион сто шестьдесят тысяч ….за месяц мы обычно собираем от 50 до 75 тысяч партий плейчесса (комнаты движков) а инфинити выходит тыщ 7-8 это + турниры (которые в открытом доступе есть везде) + движки ручного сбора

[svoitsl]

Цитата: Сообщение от Александр Руденко

всего полтора года партий плейчесса - 1 миллион сто шестьдесят тысяч

ну все,теперь дело за малым, раздобыть скрипты (проги) и начатьтренировать сеть 10х128,за несколько дней скормить ей все эти 1.16 млн партий и получить сеть поумнее,чем я привел по ссылке выше

[svoitsl]

Цитата: Сообщение от Maratka

Можно, но это с потерей Elo, т.к. качество этих партий будет хуже, чем "родных" на более крупной сети.

Однако практика показывает, что как раз такое "контроллируемое обучение" создаёт более умные сети, чем с нуля - "обучение с подкреплением", да и crem об этом тоже писал (правда на английском :-( )
А уже потом эту сеть обученную первым способом (за пару-тройку недель) уже можно и обучить обучным способым, так как резервы по ее улучшению использованы лишь не значительно.

[Alex_Zet]

Цитата: Сообщение от alchemist888

Сила движков измеряется тестами на тысячи партий, и по ним можно сказать со 100% достоверностью - текущая Лила опережает версию Стокфиша, которая играла в TCEC.

А что касается прогресса и убедительности, то Лила за менее чем 2 года с нуля прошла путь до сильнейшей в мире шахматной программы и самому полезному аналитическому инструменту. Стокфиш, к слову, развивается уже 11 лет.
И, кстати, последние 2 года прогресса Стокфиша обеспечены за счет одного мецената, который пожертвовал огромное количество ресурсов для фиштеста, без него мы бы скорее всего имели движок уровня SF 10.
И будь у Лилы подобный меценат, то на уровень сегодняшней силы она вышла бы еще год назад.

Самое правильное чем и как сравнивать движки, это количество вложенных в него ресурсов - время развития, количество тестов и затраченное машинное время на них.

И тут Стокфиш уступает не только Лиле и Комодо но и всем остальным движкам.
Орать о том что наш движок самый сильный, но при этом 10 лет на него пашет тысячи ядер, десятки тысячи часов времени работы компов, миллионы проведенных тестов.

Затраченными ресурсами и их эффективностью измеряется сила движка. По крайней мере так всегда было с точки зрения эволюции.

[sergey1963]

не буду выделять всеми цветами радуги свой пост- ну просто лень... только на матч Альфа-Зеро со Стоком-8 Гугл отрядило 4 ТРU- 50 тысяч тензорных ядер- это 800 видеокарт 1080ti. DeepMind- для генерации первого набора игр для самостоятельной игры использовалось 5 тысяч TPU, затем 16 TPU использовались для обучения нейронных сетей, время обучения заняло 9 часов. Stockfish использовал 44 процессора, AlphaZero использовал 4 TPU и 44 ядра процессора.
4 TPU- это 50 тысяч тензорных ядер с производительностью 8 тысяч ТЕРА-Флопс, для генерации набора игр использовалось свыше 60 миллионов тензорных ядер плюс обучением занимались 200 тысяч тензорных ядер с производительностью 32 тысячи Тера-Флппс... вся эта бесчисленная рать понадобилась лишь для победы над Стокфишем с производительностью в миллион раз меньше... нахрена??? спросите вы- и я о том же!!!

[Neofelis]

Цитата: Сообщение от svoitsl

Однако практика показывает, что как раз такое "контроллируемое обучение" создаёт более умные сети, чем с нуля - "обучение с подкреплением", да и crem об этом тоже писал (правда на английском :-( )
А уже потом эту сеть обученную первым способом (за пару-тройку недель) уже можно и обучить обучным способым, так как резервы по ее улучшению использованы лишь не значительно.

Снова не так. Сеть вторым способом тренируют с нуля, то-есть, с рандомных весов. Оригинальная сеть никак на втором этапе не используется. Только партии.

[Neofelis]

Цитата: Сообщение от sergey1963

4 ТРU- 50 тысяч тензорных ядер- это 800 видеокарт 1080ti

И снова профан со своей лженаукой. Хватит уже тут случайные цифры за истину выставлять.

[Alex_Zet]

Что бы перевезти несколько тонн груза на земле требуется несколько сотен лошадиных сил.
Что бы вывести на орбиту несколько тонн груза требуются ракетные двигатели с мощностью первой ступени больше 2 000 000 л. с. что равно примерно мощности ТЭЦ.

Маратка же написал в своем посте, что бы прокачать нынешнюю сеть Лилы, что бы та набрала глубину, требуется именно 4 х 2080, что эквивалентно нынешнему железу ТСЕС для CPU. Полный паритет.

Но нет, уже транслируется по 5 одинаковых постов в 5 разных темы, с единственной лишь целью подосрать Лиле, в расчете что найдутся доверчевые, которые купятся на винегрет из флопсов, потоков, ядрах, потоков, главное ведь что бы упаковочка блестела. К счастью форумчане уже более менее все все понимают.

Кто вы, sergey1963?

С одной стороны скрупулезно подсчитывающий все ядрышки и терафлопсы, требующий социалистической справедливости в равномерном распределении недр, этакий комиссар в красных штанах, на лошадях врывающийся в деревню что бы изъять зерно у зажиточных крестьян и оставить их умирать с голода.

А с другой стороны, темной и менее освещенной для общественности, пожиратель чужого труда, сотен и тысяч, что безвозмездно на протяжении более чем 10 лет рабским и неоплаченным ни копейки трудом, корпели над кодом, миллионы тестовых партий, интересно сколько это стоит, эти затраты на железо и электроэнергию, все эти ватты, киловатты, мегаватты, во что это оценивается и кем это оценится хоть когда? Это вполне себе феодализм, когда все что за моей крепостной стеной, с тайным выходом у рва, все мое и не суйте туда нос. Это не обсуждается, потому что я этого не желаю обсуждать.

Почему не обсуждать? Потому что мне это не выгодно! Ведь я привык обсуждать именно то что мне выгодно, зачастую просто искажая факты до наоборот. Ведь никаких последствий за враньё все равно не будет.

Как это уживается в одном мозгу, красные штаны и халифат?

[AlphaZero]

там весь смысл в том, что альфа0 рассчитал всю игру всего за 8 часов. а стоку хоть всю вычислительную мощь всей планеты дай, -всё равно не догонит, как лучше всего расставлять свои фишки, только глубину чуть дальше наберёт.
Алекс, а почему у вас "чтобы" всё время с таким завидным постоянством пишется.. как бы это сказать..? расчленённо что ли? Вроде такой неплохой текст накорябал.. Но вот это корявое "чи_то_бы"...

[svoitsl]

Nibbler 1.2.3

Цитата:

Winrate graph
Compatible with Lc0's new S statistic (previously called Q+U)
Versus mode (play against Leela) more user-friendly in some ways

The winrate graph was a fairly complex new feature, let me know if it misbehaves or causes any issues (including performance issues). You can turn it off by setting its size to 0 in the Sizes menu.

[Maratka]

Цитата: Сообщение от AlphaZero

там весь смысл в том, что альфа0 рассчитал всю игру всего за 8 часов. а стоку хоть всю вычислительную мощь всей планеты дай, -всё равно не догонит, как лучше всего расставлять свои фишки, только глубину чуть дальше наберёт.

Ну вообще говоря написать код для автогенерации базы по результатам партий (по сути книги, которая пополняется автоматически после каждой партии) не очень сложная задача. И это будет аналог сети: в некой позиции по мере розыгрыша дебюта смотрим статистику из этой базы, и при расчете хода в первую очередь смотри пару ходов с максимальным рейтингом по этой базе. Подобные вещи вполне применимы к любому движку, хоть a-b, хоть сеть, другое дело, что для сетевых движков оно не особо актуально, как раз по той причине, что у них есть сеть. Но технически - можно.

Допустим прямо сейчас на FishTest скорость игры 13265 партий в минуту, это куда как больше, чем то, что есть у LZ, у них примерно столько наигрывается за час.

[Кевин]

Финальный релиз v0.25.0 вышел:

Цитата:

A few small updates since RC2. Lots of new stuff in this release, take a look at the RC1/RC2 release notes for details.

Relax strictness for complete standard fens in uci and opening books. Fen
must still be standard, but default values will be substituted for sections
that are missing.
Restore some backwards compatibility in cudnn backends that was lost with
the addition of the new convolution implementation. It is also on by default
for more scenarios, although still off for fp16 on RTX gpus.
Small logic fix for nps smoothing in the new optional experimental time
manager.

https://github.com/LeelaChessZero/lc0/releases

[Vizvezdenec]

Как любят фанаты Альфазиро СОВЕРШЕННО игнорировать затраты человекочасов на разработку.
Просчитала она за 8 часов, ага. Как будто до этого не было альфаго за несколько лет до этого (!) на базе которого вообще и была построена альфазира. Ох уж эти тупые ребята из гугла, могли за 8 часов всё сделать, а тянули кота за яйца несколько лет зачем-то.
Это как знаете, сложить суммарное время, которое нужно фиштесту для прохождения всех SPRT за последний год успешных с 10000 ядер - так всего несколько дней-то и выйдет.
Ну что остальные 365 дней что-то там кто-то делал - это мы тоже учитывать не будем
А так вон недавно у нас была неделя в 6-7 эло, и это всего лишь 9к ядер крутилось на постоянной основе.
А будет их миллион? Да там многое можно начудить. Например, стат бонус в стокфише ограничен глубиной 17. А почему 17? Ну больше очень трудно тестировать, а эло там по логарифму идёт. Но с миллионом ядер почему бы и нет. Границы SPRT можно сузить раза в 4 - ведь нас не будет волновать, что тесты будут проходить в 16 раз медленнее с таким железом.
Мультипроцессинг? Пожалуйста. В одном ядре из 64 выключать LMR, смотреть, что будет. Сейчас это невозможно проверить. И т.д.
Конечно, с 0 до 3500 эло не получится. Но что 100-кратное стабильное увеличение числа ядер даст куда больший прирост эло в единицу времени, чем сейчас, вполне очевидно.
А так текущий сток сильнее альфы вполне себе и по-прежнему растёт.

[Alex_Zet]

Цитата: Сообщение от Maratka

Допустим прямо сейчас на FishTest скорость игры 13265 партий в минуту,

А с каким регламентом по времени эти партии?

[alchemist888]

Цитата: Сообщение от Maratka

Допустим прямо сейчас на FishTest скорость игры 13265 партий в минуту, это куда как больше, чем то, что есть у LZ, у них примерно столько наигрывается за час.

Так нельзя сравнивать, потому что у fishtest'a тестирование проходит на нескольких контролях, в основном 10''+ 0.1'' и 60'' + 0.6''
Лучше всего брать общее количество затрачиваемых nodes за определенный промежуток времени и сравнивать друг с другом. Я как то делал это для 10000 cores fishtest'a, и получил примерно 10-и кратное превосходство перед lczerotraining.
За основу сравнения взято соотношение 1:1000 для 20x256 сети (1:1875 для T60)

[Maratka]

Цитата: Сообщение от Vizvezdenec

А так вон недавно у нас была неделя в 6-7 эло, и это всего лишь 9к ядер крутилось на постоянной основе.
А будет их миллион?

Ну в принципе, последнее время частенько бывает по ~10 тыс. ядер, так что может что-то из перечисленного можно попробовать?
Ну например:

Цитата: Сообщение от Vizvezdenec

Например, стат бонус в стокфише ограничен глубиной 17. А почему 17? Ну больше очень трудно тестировать, а эло там по логарифму идёт.

Т.е. если стабильно на 8 часов в сутки будет 10 тыс. ядер, вместо 1000, которые в общем-то постоянно практически были последний год, то возможно получится?

[Maratka]

Цитата: Сообщение от alchemist888

Так нельзя сравнивать, потому что у fishtest'a тестирование проходит на нескольких контролях, в основном 10''+ 0.1'' и 60'' + 0.6''
Лучше всего брать общее количество затрачиваемых nodes за определенный промежуток времени и сравнивать друг с другом. Я как то делал это для 10000 cores fishtest'a, и получил примерно 10-и кратное превосходство перед lczerotraining.
За основу сравнения взято соотношение 1:1000 для 20x256 сети (1:1875 для T60)

Ну пусть так. Суть же не в этом. Суть в том, что это в принципе возможно.

[AlphaZero]

Цитата: Сообщение от Кевин

Финальный релиз v0.25.0 вышел:





https://github.com/LeelaChessZero/lc0/releases

Эх, докатились.. нужна хорошая джэпэу ибо сипию-версия дохловата и постоянно всё зевает аки сильный кмс..