runner.py multiprocessing

[kunev]

За да решим проблем с домашни, които не са thread safe почнахме да пускаме тестове в отделен процес, вместо в нишка. (виж #160)

Оказва се, че малко избързахме и в текущия си вид runner.py не получава информация обратно от процеса за счупени тестове. Единствените fail-ващи тестове така са тези, които timetout-ват.

Възможни решения, които ще разгледам по темата са multiprocessing.Value и опашки и тръби

[sgatev]

Това с пускането в отделен процес не може ли да се случи в Language.run_tests и да се избегне модификация на конкретен runner?

[kunev]

@s2gatev runner.py се пуска в отделен процес от този на rails app-а. Вътре в него обаче всеки test метод трябва да върви в самостоятелен процес вместо нишка, за да може timeout-а да работи и при решения, които не са thread safe.

Потенциално подобен проблем може да има в другите runner-и, но това за съжаление изисква language specific решение за всеки.

[sgatev]

👍 Благодаря за обяснението.

Чудя се дали не е удачно да направим така че language-specific runner-ите да предоставят API, състоящ се от #list_tests, което дава списък от тестове, които трябва да се пуснат и #run_test(id), което пуска съответен тест. Този API разчита на това да е възможна наредба на тестовете.

По този начин можем да извадим това оркестриране на процеси в "главния" runner и да оставим language-specific runner-ите по-прости.

@mitio

[mitio]

Такова API звучи като добра идея, но докато не видя код, не мога да коментирам.

Имам доверие на хората, въвлечени в тази дискусия, да излезете с прилично и работещо решение от тази ситуация :)

[ironsmile]

@kunev, ето това е моя пач. Той измества чакането да изтече timeout-a в .get на опашката. За съжаление push-нах в master.

[kunev]

Май това решава временно текущия ни проблем. Локално се справи добре с всички решения. За сега, за да не занимавам @mitio с деплой на нов evans на диди и евентуална необходимост от последващ ревърт, ш'а rsync-на направо runner.py в тоя му вид и ще пусна тестовете през UI-то, пък ще видим как изглеждат резултатите след това.

[mitio]

@kunev Нямам проблем да деплойна, когато кажеш.

[kunev]

Като видя сега, че дава адекватни точки ще ти потвърдя, ш'а поразчистя малко стари коментари и doc string-ове за нишки, които повишихме в процеси и после може да се merge-не в master вече и да се деплойне.