LCZero

[svoitsl]

И немного статистики...
так на сколько усилилась LС0 за неделю, с 17 по 24 апреля
оказывается на целых 397 (дутых) ЭЛО
с 4870 по 5267
или на 8.15%
Даже если предположить, что реальных ЭЛО в два раза меньше, то и 199 тоже не мало

[Maratka]

Цитата: Сообщение от svoitsl

На графиках Гугла было видно, что Стокфишь обыгрывал A0 до 1 с на ход, учитывая что у вас...

А это без разницы. Я сравниваю ту же программу с разной базой/сетью на том же железе. Соответственно, весь прирост, который я вижу - это прирост от самообучения, а не от того, что одна железка в 80 000 раз быстрее другой. ;)

______
Естественно, что на более быстром железе программа будет играть лучше. Ну так и ее соперник будет играть лучше.

[Maratka]

Цитата: Сообщение от svoitsl

Даже если предположить, что реальных ЭЛО в два раза меньше, то и 199 тоже не мало

Реальных Elo поменьше, но не сильно.
Через часа два у меня доиграется матч - выложу результаты что было с базой 151, и что стало с базой 181.

[Maratka]

Кстати, хочу заметить еще такой нюнс:

Если из обучения LZ выйдет что-то путное, уровня SF, или выше - на платных движках можно смело поставить крест: свой аналог написать то Гударт или команда Komodo (например) конечно же смогут, но вот где им взять несколько десятков тысяч видеоплат для обучения - большой вопрос. Открытый софт тут может проиграть закрытому только в лице Гуглского AZ, да и то под вопросом: у AZ мощнее платформа (ибо специализированная, а не приспособленная под обучение), а у LZ за счет огромного количества людей, отдавших свои железки для обучения -будет лучшая база/сеть.

[sovaz1997]

ID 182 очень неплохо выступила в TCEC: выиграла все партии против Scorpio и против Laser в плюсе стоит))



Это бонусные партии (в архиве TCEC как 5-й дивизион)

[svoitsl]

очередной вечерний турнир закончился.
На сей раз оппонентом LC0 был Рыбка 2.3.2а mp 64 bit
результат оказался не важным Рыбка выиграла со счетом 8:2 (+7=2-1)
Ну что значит на ней вполне можно наблюдать рост LC0

Цитата: Сообщение от Maratka

на платных движках можно смело поставить крест

Они думаю они найдут свою нишу и традиционные движки ещё рано сбрасывать со счета. не думаю что LC0 достигнет уровня Стока раньше следующего года, при увеличении сети рост может существенно замедлится.

Цитата: Сообщение от Maratka

у LZ за счет огромного количества людей

Число как видится отнюдь не огромное
раз уже потребовался донат
Да и на сайте видно падение числа игр в день с 450 тыс до 370 тыс
К тому же если взять достаточно современную видюху с обработкой целых чисел и адаптировать алгоритм,то обучение пойдет веселее и в разумные сроки (пусть и не за 9 час как гугл) можно будет обучить

Цитата: Сообщение от sovaz1997

ID 182 очень неплохо выступила в TCEC

Ну как говорится после драки кулаками не машут
Подождем следующего TCEC

[sovaz1997]

svoitsl, ниша традиционных движков - тактика. Чистая тактика. Я уверен, что A0 хуже в тактике, чем SF. Просто отличное позиционное понимание заменяет тактику. Интересно будет видеть комбинирование этих вещей.

Мое предсказание для следующего TCEC: LCZero дойдет до 2-го дивизиона как минимум.

[Maratka]

Цитата: Сообщение от sovaz1997

Мое предсказание для следующего TCEC: LCZero дойдет до 2-го дивизиона как минимум.

Еще раз: все зависит от динамики замедления роста.
Лично я могу вполне допустить, что он резко замедлиться как после 3000 Elo, так и после 4000 (по принципу - или увижу слона, или не увижу).

Так вот, во втором случае, идя теперешними темпами, и наращивая по сотне Elo каждые десять дней-две недели (ну или грубо - по 250-300 Elo в месяц), к началу следующего TCEC LZ выйдет на уровень Fire/Chiron, т.е. вполне себе без проблем пройдет "сквознячком" из четвертого дивизиона в первый, а за эти два месяца, пока будет проходить - наберет еще 300-500 Elo, чего вполне достаточно, чтобы отхлестать соперника в финале похлеще, чем это сделал SF две недели назад.

В худшем же варианте - получим еще один движок с рейтингом ~3000 и приростом в 50 Elo/год.

[sovaz1997]

Главное, что у нас теперь есть другой путь развития движков и есть надежда на нового лидера по силе игры. Будет интересно, что будет дальше.

И ведь не только в шахматах этот метод работает

[Maratka]

Итак, мои результаты:

база ID 151:

93, Rapid 10m+15s  2018
1	Ruffian 2.1.0	+222	+27/=7/-5	78.21%		30.5/39
2	lczero v0.7	-222	+5/=7/-27	21.79%		8.5/39

база ID 181:

94, Rapid 10m+15s  2018
1	Ruffian 2.1.0	 +36	+19/=5/-15	55.13%		21.5/39
2	lczero v0.7	 -36	+15/=5/-19	44.87%		17.5/39

Т.е. из разгрома мы плавно пришли к +/- равенству.
Разница в базах ~недели.

Теперь беру соперника классом повыше - Deep Shredder 10.

[svoitsl]

Цитата: Сообщение от Maratka

В худшем же варианте

Все таки хочется надеяться,что несмотря на много ошибок и потерянных нескольких миллионов игр на их исправление удастся после 50 млн игр все же выйти на хотя бы 3400 ЭЛО,как это получилось у Гугла.
Сейчас пока проект не вышел за рамки экспериментального и хорошо бы это сделать ещё до увеличения размера сети в несколько раз,иначе оставшиеся ошибки уж не возможно будет исправить за разумное время.

[Maratka]

Цитата: Сообщение от svoitsl

Сейчас пока проект не вышел за рамки экспериментального

Сейчас IMHO главное написать нормальный UCI-двиг, чтобы без костылей бегал, да настроечки в него вывести, а-ля "use CPU/GPU/both"

Спорный вопрос -поддержка таблиц (Налимов и подобные ему): нужно ли это движку, который самосовершенствуется (текущая версия зачастую не видит мат/вечный шах, т.е. ей бы таблицы явно помогли бы).
Плюс шлифовка самого движка: ну не нужно думать двадцать секунд над матом в один ход!

А вот переобучить систему в случае каких-то радикальных проблем в ней можно достаточно быстро, вопрос нескольких месяцев - это совершенно не проблема. Проблемой будет отсутствие роста после достижения уровня гораздо меньшего, чем у современных чемпионов - это будет весьма вероятно алгоритмичеческой проблемой, т.е. придется переписывать движок как таковой, а на это может уйти куда как больше времени.

[Maratka]

Кстати, прошу обратить внимание на процент ничьих в случае использования базы с ID 181 (таблица чуть выше).

Т.е. при примерно одинаковом уровне игры двух разных движков уровня мастера количество ничьих стремится не к бесконечности (как в случае классических движков), а к нулю.
А это IMHO показывает, что при в общем и целом равенстве сил движков, играют они в совершенно "разные" шахматы.

________
Проверю свою гипотезу на матче с Deep Shredder (уже запущен, в качестве эталона - база ID 181).

[svoitsl]

Цитата: Сообщение от Maratka

Сейчас IMHO главное написать нормальный UCI-двиг

Ошибки тут как раз не сильно опасны и на обученность сети напрямую не влияют, в вот например если забыли что нибудь вроде "взятия на проходе" это уже куда опаснее, и чем больше сеть тем сложнее её переобучить,к тому же такой фактор как её "чистота",к чему так стремятся разработчики будет поставлен под серьезное сомнение. И полное исправление ошибок будет уже равно переобучению заново с нуля.

Цитата: Сообщение от Maratka

а на это может уйти куда как больше времени

считается что алгоритм не очень сложный и переписать его можно,проблема опять таки в повторном переобучении. Вот на это уйдет основное время и ресурсы.

Цитата: Сообщение от Maratka

играют они в совершенно "разные" шахматы.

В данном случае это так, но например A0 давал довольно большой процент ничьих

[Maratka]

Цитата: Сообщение от svoitsl

раз уже потребовался донат

Так он то потребовался не на то, чтобы людей с видеоплатами нанять, люди сами идут, добровольно.
Скорее всего, денежка нужна под что-то другое... Ну не знаю, может под банальное электричество

_______
А вообще, если бы 10% фермеров мира выделили бы свои "фермы" для благого дела, то обучение закончилось бы через пару дней ;)

[Alex_Lk]

LCZero конечно новое слово в шахматном программировании, поэтому за нее многие болеют и ждут что сейчас произойдет чудо.

Но думаю, просто увеличение количества партий и размера сети серьезных результатов не дадут. Хорошо если к концу года (по результатам TCEC-14) LCZero переползет в третий ну или второй дивизион.

Какие ее результаты в TCEC-12 ? Сколько очков она там набрала ?
Ее Googl-овская родственница на гораздо более мощном железе об`играла "кастрированный" Stockfish. Какой у нее был рейтинг явно не 3400. LCZero к концу года будет еще заметно слабее того "демонстрационного" варианта.
В данном случае последовательность не арифметическая а геометрическая. Чтобы подняться на 100 пунктов рейтинга надо играть не столько-то млн. партий, а во сколько-то раз больше уже отигранного (в 3, 10 или 100 раз скоро это увидим).

В LCZero точно надо вводить умение общаться в эндшпильными базами.


Но и "классические" движки не будут стоять на месте. Должны появиться новые эвристики с "сетевыми" примочками. Пусть не так быстро но они появятся.
Как-то незаметно прошло, то что LCZero эффективно использует видеокарту для шахматных расчетов. В эту же сторону должны шагнуть и "классические" движки. Интересно когда Stockfish начнет использовать видеокатру ? (делайте ваши ставки).

В любом случае в ближайшие пару лет нас ждет взлет шахматного программирования и "классические" движки с рейтингом ~3600 не за горами.

[Maratka]

Цитата: Сообщение от Alex_Lk

Но думаю, просто увеличение количества партий и размера сети серьезных результатов не дадут.

Пока что идет более-менее линейно.
Понятно, что сие счастье может кончиться в любой момент, но если оно не кончится хотя бы в ближайший месяц - LZ успеет научиться на ~3000 Elo, а если два месяца - то ~3300.

[Parkaev_Andrey]

Цитата: Сообщение от Alex_Lk

В любом случае в ближайшие пару лет нас ждет взлет шахматного программирования и "классические" движки с рейтингом ~3600 не за горами.

Мда...

[svoitsl]

Цитата: Сообщение от Alex_Lk

Хорошо если к концу года (по результатам TCEC-14) LCZero переползет в третий ну или второй дивизион.

Все таки это предсказание мне нравится больше :-) :-)

Цитата: Сообщение от sovaz1997

Мое предсказание для следующего TCEC: LCZero дойдет до 2-го дивизиона как минимум.

Цитата: Сообщение от Alex_Lk

Какой у нее был рейтинг явно не 3400

Ну отчего же, цифра вполне правдоподобная, на 100 больше Стокфиша
(у него то, даже кастрированного 3300 хоть наберется )

Цитата: Сообщение от Alex_Lk

В LCZero точно надо вводить умение общаться в эндшпильными базами.

Разработчики видимо оставят это на потом, когда уже ничего не поможет поднять
её рейтинг, ибо такое обучение нарушает идеологию

Цитата: Сообщение от Alex_Lk

LCZero эффективно использует видеокарту для шахматных расчетов

Скорее не очень эффективно, а часто это и не возможно, лишь топовые видео могут работать с целыми числами (как пишут ...) поэтому они не используются...

Цитата: Сообщение от Alex_Lk

Интересно когда Stockfish начнет использовать видеокарту ? (делайте ваши ставки).

Ну как только появятся матричные алгоритмы так и вскоре будут,но в традиционную эвристику их не просто вживить.

Цитата: Сообщение от Maratka

Понятно, что сие счастье может кончиться в любой момент,

Если удастся избежать критических ошибок то простое увеличение сети снова даст рост, хоть и не быстрый. На существующей сети 10х64 разработчики кажется планировали достичь уровня 2800 через несколько месяцев.

[Maratka]

Цитата: Сообщение от svoitsl

очередной вечерний турнир закончился.
На сей раз оппонентом LC0 был Рыбка 2.3.2а mp 64 bit
результат оказался не важным Рыбка выиграла со счетом 8:2 (+7=2-1)

Это шикарный результат!
Не знаю, может у Вас процессор очень медленный, или математика на видео очень быстрая, но у меня разница в Elo куда как поболее, и это при том, что LZ играет против Deep Shredder 10, у которого рейтинг на две сотни ниже, чем у Рыбки 2.3

[Maratka]

Цитата: Сообщение от svoitsl

Разработчики видимо оставят это на потом, когда уже ничего не поможет поднять
её рейтинг, ибо такое обучение нарушает идеологию

Это не обучение. Это по сути сводится к игре по справочнику: посчитать ветку, и свериться с готовыми ответами на вопросы в конце учебника.

Цитата: Сообщение от svoitsl

На существующей сети 10х64

Поподробнее можно -в чем измеряется размер сети?

[sovaz1997]

На talkchess сравнивают таким образом: берут ограничение по количеству узлов на ход и сравнивают прогресс. Ограничение индивидуальное.

[svoitsl]

Цитата: Сообщение от Maratka

Поподробнее можно -в чем измеряется размер сети?

Это я все перепутал, 10х128 конечно (раньше была 6х64)
Меряется в блоках и фильтрах

[Maratka]

Цитата: Сообщение от sovaz1997

На talkchess сравнивают таким образом: берут ограничение по количеству узлов на ход и сравнивают прогресс. Ограничение индивидуальное.

Ну я делаю куда как проще: выбираю соперника с с предполагаемым рейтингом на пару сотен выше (в качестве базы беру рейтинги CCRL, и выбираю из имеющейся у меня коллекции движков подходящий), запускаю матч с текущей базой/сетью, смотрю результат (он обычно весьма нехороший для LZ), т.к. рейтинги CCRL достаточно неплохо соответствую реальному соотношению сил).

Далее жду, когда согласно таблице с рейтингами сети появится сеть с рейтингом соответствующим разнице в игре, полученной в первом матче, и запускаю второй матч против этого же движка с новой сетью/базой.

Собственно, десятком сообщений выше это все я привел в двух таблицах с результатами и номерами баз/сетей, на которых эти результаты получены.

_______
Оно конечно наверное не очень научно, но зато я вижу результат борьбы с реальным движком - раз, и реальный рейтинг LZ "до" и "после", а не дутые попугаи, которые смело можно разделить на два, чтобы получить более-менее реальное представление от силе LZ.

[sovaz1997]

Maratka, это делается для универсальности. Ваш тест тоже правильный, если работает на одном ПК. Но у других будут другие результаты из-за разных процессоров/видеокарт.

[Rom77]

Цитата: Сообщение от Maratka

Поподробнее можно -в чем измеряется размер сети?

http://kasparovchess.crestbook.com/t...42#post-796706

[Maratka]

Цитата: Сообщение от Maratka

Это шикарный результат!
Не знаю, может у Вас процессор очень медленный, или математика на видео очень быстрая, но у меня разница в Elo куда как поболее, и это при том, что LZ играет против Deep Shredder 10, у которого рейтинг на две сотни ниже, чем у Рыбки 2.3

Да, чтобы было понятно- LZ у меня работает на CPU (FX-8350, 7 потоков, восьмой отдан под обучалку).
Deep Shredder естественно запущен на тех же семи потоках.

И судя по тому, что выводится в консоли обучения, 7 ядер моего FX +/- равны 1024 ядрам GTX-960: nps гуляет в районе 600-800, изредка забегая за тысячу, а в GUI Fritz обычно выводится 0 (т.е. те же 600-800, ибо он обрезает до целых тысяч), и изредка - единица, т.е. те самые "тысяча и чуть-чуть"...

[Rom77]

Цитата: Сообщение от Maratka

Оно конечно наверное не очень научно, но зато я вижу результат борьбы с реальным движком - раз, и реальный рейтинг LZ "до" и "после", а не дутые попугаи, которые смело можно разделить на два, чтобы получить более-менее реальное представление от силе LZ.

Так и есть. Рейтинг Лилы в матчах с самой собой не слишком показателен. Перекос рейтинга происходит, потому что каждая следующая нейросеть по сути изыскивает слабые места в партиях предыдущей. Она как бы подстраивается под них, учится использовать эти оплошности. То есть становится неудобным соперником для предыдущей нейросети. Но неудобный соперник не обязательно более сильный.

[Magystr]

Вот здесь очень простая и понятная статья о нейронных сетях для чайников:
https://geektimes.com/post/277088/

[Magystr]

Небольшой экскурс в историю.
В 2005 году появилась Rybka1.0, которая стала сильнейшим движком. Точнее, одним из сильнейших, первым среди нескольких.
Через пару лет вышла Rybka2.3, которая стала бесспорно сильнейшей на несколько лет. Именно тогда родилась фраза: "Играет по первой линии Рыбки" - что было верхом восхищения.
Потом появилась Rybka3 и казалось, что она будет царствовать очень долго.
И вдруг, почти внезапно ее побил Гудини1.5.
И даже когда вышел Гудини2.0, большинство гроссов предпочитали предыдущую версию, потому что она играла более "человечно".
Ну а вслед за ней - Комодо и Стокфиш.

К чему я это все написал? Наверное наиболее интересны были бы тесты с перечисленными движками.

И еще. Учитывая, что LC0 сильно зависима от мощности, было бы интересно сравнить результаты этих матчей на разных контролях, например по 5 минут, и по 10. Уверен, что увеличение контроля даст серьезную прибавку Лиле.