Хакатон қазыларын калибрлеу: алғашқы питчке дейінгі екі оқу жобасы
Балл белгілерін келісу, екі оқу жобасын бағалау, деректердің жетіспеуін және мүдделер қақтығысын тіркеу. Қазыларға арналған үш CSV үлгісі.
·6 мин оқу
Не білесіз
Екі оқу жобасын алдымен жеке бағалап, айырмашылықтарды фактілер мен жарияланған балл белгілері бойынша талқылаңыз.
Байқалған фактіні, оның түсіндірмесін және баллды ажыратыңыз; калибрлеу критерийлерді, салмақтарды немесе тең балл ережесін өзгертпейді.
Дерек жетіспесе немесе қазы бағалаудан бас тартса, баллды бос қалдырып, мәртебені алдын ала белгіленген тәртіппен тіркеңіз.
Бір қазы жұмыс істейтін прототипке үш балл қояды. Әріптесі бір балл береді: көрсетілімді көргенімен, сценарийді өзі қайталай алмады. Мұны тек финалдан кейін талқыласаңыз, командалар әртүрлі шкала бойынша бағаланып үлгереді. Алғашқы питчке дейін екі оқу жобасын сынап көріп, әр қазы қандай бақылауды жеткілікті деп есептейтінін анықтаңыз.
Төменде осындай кездесуді өткізу тәртібі берілген. Мысалдардағы барлық жоба, жазба және балл оқу үшін ойдан шығарылған. Олар Stavleak клиенттерін, қатысушыларын немесе іс-шара нәтижелерін сипаттамайды.
Ережелер мен қолжетімді материалдарды бекітіңіз
Қазыларға жарияланған ережелерді, критерийлерді, қатысуға жіберу талаптарын және тапсыру жинағын беріңіз. Құжат нұсқалары мен бағалауды жабу уақытын көрсетіңіз. Қазы кодты іске қосуға, резервтік демо жазбасын пайдалануға және нақтылау сұрақтарын қоюға болатынын білуі керек. Материалдарға қолжетімділікті алдын ала тексеріңіз.
Салмақтарды, бағаларды біріктіру әдісін және тең балл кезіндегі шешімді ұйымдастырушы конкурс жұмысы басталғанға дейін анықтайды. Питч алдындағы калибрлеу жарияланған ережелерді қолдануды нақтылайды. Ол жаңа критерий қосуға, салмақты өзгертуге немесе пайдаланушы зерттеуін кейіннен міндеттеуге рұқсат бермейді. Елеулі рәсім ережеде көрсетілмесе, мәселені жауапты ұйымдастырушыға жеткізіп, шешімді белгіленген тәртіппен тіркеңіз.
Жинақтың толықтығын және бағалауға жіберуді бөлек адам тексерсін. Міндетті сілтеме жетіспесе, іске асыру сапасы үшін еркін айып баллын бермей, ереже бойынша шешім қабылдау қажет. Осы жұмысты бағалау критерийлері туралы нұсқаулықпен және хакатон ережелерімен үйлестіріңіз.
0-4 шкаласының бақыланатын белгілерін жазыңыз
Жаттығуда үш критерий бар: тапсырмаға сәйкестік C1, негізгі сценарийді қайталау мүмкіндігі C2, тексеру деректері мен шектеулер C3. Бұл мысал ретінде берілген шкала. Трекке сәйкес матрицаны ұйымдастырушы алдын ала дайындап, жариялайды.
0: Рұқсат етілген тексеру жағдайында негізгі сценарий анық орындалмайды; қолжетімді резервтік тәсіл де мәлімделген нәтиже бермейді.
1: Жеке бөлік жұмыс істейді; нәтижеге өту қолмен орындалады және бұл көрсетілген.
2: Негізгі жол берілген деректермен орындалады; іске қосу қадамдары мен шектеулер жазылған.
3: Басқа адам сценарийді жаңадан іске қосып қайталайды; бір нақты қате енгізу өңделген.
4: Тәуелсіз қайталау және бірнеше теріс сценарий үшін күтілген әрі нақты нәтижелер жазылған.
Мұндағы нөл тексерудің анықталған нәтижесін білдіреді. Сілтеме ашылмай, рұқсат етілген балама материал әлі қаралмаса, балл анықталмаған күйде қалады. Төртінші деңгей де өнімнің өндірістік пайдалануға дайын екенін білдірмейді.
RUBRIC.csv файлында әр критерийдің барлық бес деңгейіне арналған белгілер бар. C1 тапсырмамен байланысты, C2 орындалуды, C3 тұжырымның негізін тексереді. Бір сәтті тест үш бағанның бәрінде автоматты түрде ең жоғары балл бермеуі керек.
Қазыларға екі анық оқу жобасын беріңіз
Оқу тапсырмасы: бір менторға бір уақытта екі кездесу тағайындамай, командаларға шектеулі ментор слоттарын бөлу. Барлық өтінім жасанды деректерден тұрады. Жаттығуда нақты пайдаланушылар немесе клиент деректері жоқ.
A жобасы, «Слоттар», алты өтінімді қабылдайды. Қазы нұсқаулық бойынша жүйені қайта іске қосып, қабаттаспайтын кесте алады. Бір слотты қайта брондау хабарламамен қабылданбайды. Команда осы тексерудің журналын және шектеулерін берген, бірақ шешімді баламамен салыстырмаған. Оқу матрицасының тірек бағалары: C1 = 2, C2 = 3, C3 = 2.
B жобасы, «Панель», өтінім формасы мен әдемі кестені көрсетеді. Форманы толтыруға болады; содан кейін оператор кездесулерді қолмен жылжытады. Сақталған оқу кестесінде бір менторға бір уақытқа екі кездесу тағайындалған. Қолайлылық тексерілгені айтылған, бірақ бақылау жазбалары жоқ. Тірек бағалары: негізгі тапсырманың көрсетілген бұзылуы үшін C1 = 0, сценарийдің жұмыс істейтін бөлігі үшін C2 = 1. C3 ереже бойынша нақтылағанға дейін баллсыз қалады.
Бұл бағалар тек сипатталған материалдар мен оқу рубрикасының белгілеріне қатысты. Басқа трек немесе рұқсат етілген тексеру тәсілі басқа нәтижеге әкелуі мүмкін. Қазіргі қатысушының танылатын жобасын жасырын эталон ретінде пайдаланбаңыз.
Фактіні, түсіндіруді және баллды бөліңіз
Бағалау парағында қазы үш бөлек жазба толтырады. Факт қандай әрекет болғанын және оны қайдан тексеруге болатынын көрсетеді. Түсіндіру критерийдің қай белгісі расталғанын анықтайды. Балл сол белгіге сәйкес мән болады. Материал сілтемесін не идентификаторын, ал демо жазбасы үшін қажет уақыт белгісін қосыңыз.
A үшін былай жазуға болады: «A-NEG-1 оқу тексеруінде бос емес слотқа екінші өтінім қабылданбады». Түсіндіру: негізгі жол қайталанды және бір қате енгізу өңделді. C2 баллы: 3. Басқа қазы осы шешімнің негізін тексере алады.
B үшін «түсінікті интерфейс» деген сөз қолайлылықты тексеру хаттамасын алмастырмайды. Журнал берілмегенін жазып, needs_clarification мәртебесін қойып, сұрақты тұжырымдаңыз. Балл өрісі бос қалады. Қазы команданың сенімді сөйлеуіне қарап зерттеу нәтижесін ойдан шығармайды және дизайннан алған әсерін техникалық критерийге ауыстырмайды.
Алдымен жеке бағаларды жинаңыз
Жүргізуші бәріне бірдей материал беріп, әр қазыдан форманы өз бетінше толтыруды сұрайды. Алғашқы мәндер талқылауға дейін сақталады. Қазылар төрағаның бағасын көрмейді және көпшілік таңдаған санды қоюға міндетті емес.
Содан кейін жазбаларды критерийлер бойынша салыстырыңыз. A жобасының C2 бағалары 2 және 3 болса, әркім нені қайталағанын және үшінші деңгейдің қай белгісін тексергенін сұраңыз. Бір қазы теріс тесті байқамай қалуы, екіншісі команданың жазбасын тәуелсіз іске қосу деп қабылдауы мүмкін. Қолжетімділікті қалпына келтіріңіз немесе бұрын жарияланған тексеру тәсілін түсіндіріңіз. Алғашқы бағалар мен нақтылаудың негізін сақтаңыз.
B жобасын да осы тәртіппен талқылаңыз. C3 үшін ақпарат жеткіліксіз деген ортақ түсінік кездесудің пайдалы нәтижесі болады. Ол ортақ сандық баллды талап етпейді. Калибрлеу хаттамасына анықталған екіұштылықты, ережеге сілтемені, жауапты адамды және келесі әрекетті жазыңыз.
Қазылар деңгей шекараларын түсіндіріп, рәсімді бірдей орындай алғанда жалғастырыңыз. Уақыт аз болса, оқу материалын қысқартыңыз, бірақ жеке қарау мен бір даулы жағдайды талқылауды сақтаңыз.
Жетіспейтін деректер мен мүдделер қақтығысын өңдеңіз
Алғашқы жобаға дейін мәртебелерді түсіндіріңіз. scored балл бар және негізделген дегенді білдіреді. needs_clarification жетіспейтін ақпаратты тіркейді. recused қазының бағалаудан бас тартуын көрсетеді. not_applicable тек ереже критерийді қолданбауды қарастырғанда рұқсат етіледі. Кәдімгі бос ұяшық pending күйін білдіреді, нөлді емес.
Қазы командаға кеңес берсе, қатысушымен бірге жұмыс істесе немесе жеке мүддесі болса, байланысты келісілген арна арқылы ұйымдастырушыға хабарлайды. Бас тарту жарияланған рәсіммен өңделеді: алмастырушы тағайындалады немесе тәуелсіз бағалардың белгіленген тәртібі қолданылады. Мұндай қазының бос бағасын орташа мәнге нөл ретінде қоспаңыз.
Жетіспейтін дерек сұрауына жауапты адам мен мерзім белгілеңіз. Нақтылау тапсыру уақыты өткен соң жобаны жетілдіруге рұқсатқа айналмауы керек. Тапсырылған нұсқа мен шешімнің түсіндірмесін сақтаңыз. Жалпы хаттамаға байланыстың қажетті сипаттамасын енгізіңіз; қатысушыға берілетін кері байланысқа жеке мәліметтер қажет емес.
Нәтижені тексеріп, үш үлгіні қолданыңыз
Нәтижені жарияламас бұрын міндетті бағалардың жиналғанын, бас тартулардың өңделгенін, формуланың жарияланған салмақтарды пайдаланғанын және тең балл рәсімінің орындалғанын тексеріңіз. Міндетті баға анықталмаса, нәтиже аяқталған деп саналмайды. Енгізу қатесін түзетуді себебі мен жауапты адам көрсетілген бөлек жазба ретінде сақтаңыз.
RUBRIC.csv, score-sheet.csv және calibration-record.csv файлдарын жүктеп алыңыз. Файлдарда A/B деп белгіленген оқу жазбалары бар. Нақты бағалау алдында құрылымды көшіріп, мысалдарды алып тастаңыз. Салмақтар мен жарияланған ережеге сілтемені ұйымдастырушы толтырады. CSV файлдары қорытынды баллды автоматты есептемейді.
Матрицаңызды бағалау критерийлері құралдарымен салыстырыңыз. Құралдарда бөлек 100 балдық үлгі бар; іс-шараңыз үшін бірізді бағалау жүйесін алдын ала жариялаңыз. Бекітілген рубриканы, жеке бағаларды және калибрлеу хаттамасын іс-шара ережелері бойынша қабылданған соңғы шешіммен бірге сақтаңыз.