question stringlengths 15 27.6k | question_id stringlengths 16 16 | category stringclasses 2
values | subcategory stringclasses 3
values | language stringclasses 1
value | subset_for_metrics stringclasses 1
value | baseline_answer stringlengths 11 32.7k |
|---|---|---|---|---|---|---|
어드벤트 오브 코드에서 다음 문제를 해결하는 지그 프로그램을 작성해 주세요. 이 프로그램은 input.txt 파일에서 입력을 읽고 정답을 표준 출력으로 출력해야 합니다.
```
--- 25일차: 눈이 내리게 하자 ---
메리 크리스마스! 산타가 날씨 기계를 부팅하고 있어요. 올해는 흰색 크리스마스를 맞이할 수 있을 것 같네요.
날씨 기계가 삐 소리를 냅니다! 기계의 콘솔에는 설명서에서 코드를 입력하라는 복사 보호 메시지가 표시됩니다. 이 코드를 입력하지 않으면 기계가 작동하지 않는 것 같습니다. 문제없어요. 그냥 설명서에서 코드를 찾아보면 되니까요.
"호호호", 산타... | 2edbb5f36f5b42be | hard_prompt | coding | ko | ko | 아래는 input.txt에서 입력을 읽어 정답을 표준 출력으로 출력하는 Zig(0.10+) 프로그램입니다. 입력에서 처음 두 개의 정수를 찾아서 첫 번째를 행(row), 두 번째를 열(column)로 해석합니다(Advent of Code 2015 Day 25 형식).
파일명 예: main.zig
```zig
const std = @import("std");
fn parse_numbers(buf: []const u8, allocator: *std.mem.Allocator) ![]u64 {
var nums = try std.ArrayList(u64).init... |
.mp4 파일을 입력받아 10초 간격으로 스크린샷을 찍어 출력하는 파이썬 스크립트를 작성해 주세요 | ec71c09662a64365 | hard_prompt | coding | ko | ko | 아래는 .mp4 파일을 입력받아 10초 간격으로 스크린샷을 저장하는 간단한 Python 스크립트입니다. OpenCV(cv2)를 사용하며, 명령행 인자로 입력 파일과 출력 폴더 등을 지정할 수 있습니다.
필요한 패키지
- Python 3.x
- OpenCV: pip install opencv-python
스크립트 (screenshot_every_n_seconds.py)
```python
#!/usr/bin/env python3
import os
import argparse
import cv2
import math
def extract_screenshots(inpu... |
<div style="width: 100vh; height: 100vh;">
<img src="img/world.png">
</div>
부모 CSS만 사용해서 자식 div들을 수직 및 수평으로 중앙에 맞추려면 어떻게 해야 하나요? | d5cdf24c4e614beb | hard_prompt | coding | ko | ko | 간단히 말하면 부모 요소에만 CSS를 주면 됩니다. 두 가지 현대적인 방법을 권장합니다: Flexbox와 Grid. (세로 중앙 정렬을 하려면 부모에 높이(height 또는 min-height)가 있어야 한다는 점 유의하세요.)
예1 — Flexbox (가장 흔함)
HTML:
<div class="parent">
<div class="child">A</div>
<div class="child">B</div>
</div>
CSS (부모만 수정):
.parent {
display: flex;
align-items: center; /* 세로 방향 중... |
다음 LLM 프롬프트를 확장하여 표 형식의 데이터도 감지할 수 있도록 하세요. 요약의 주요 주제를 포괄하는 간결한 제목을 작성하세요. 6~12단어를 목표로 하세요.
7. 구조화된 출력: 추출된 정보를 제목과 불릿 포인트를 사용하여 구조화된 형식으로 제시하여 이해와 분석을 용이하게 합니다.
출력 형식:
- 다이어그램 여부: [참/거짓]
- 다이어그램 유형: [다이어그램 유형]
- 주요 요소:
- [설명/라벨]
- 관계:
- [요소와 연결 유형을 포함한 설명]
- 기능:
- [관련 요소(들)을 포함한 설명]
- 요약: [다이어그램의 목적과 맥락에 대한 간략한 ... | dfc9be7c176d46bb | hard_prompt | coding | ko | ko | 아래 원본 프롬프트를 확장하여 "표(table) 형식의 데이터"도 감지·추출하도록 지시하는 새로운 LLM 프롬프트를 제공합니다. 출력은 항상 구조화된 항목(제목 + 불릿 포인트)으로 제공하고, 다이어그램과 표 양쪽을 모두 검사하여 각각의 존재 여부와 세부 정보를 보고하도록 합니다. 존재하지 않으면 해당 필드를 명확히 "거짓" 또는 "해당 없음"으로 표기하세요.
지시사항(LLM에 줄 입력):
- 입력 텍스트(또는 이미지 설명)를 검사하여 다음을 자동 감지하세요:
1) 다이어그램(도표, 흐름도, 개념도, UML, ER 다이어그램 등) 여부 및 유형
2) 표(열·... |
CSS와 HTML을 사용하여 빛나는 텍스트 주변에 무지개색 애니메이션 그라데이션 테두리를 추가하여 빛나는 텍스트를 생성하는 스크립트를 작성하세요. | 666d2acdd7d64e17 | hard_prompt | coding | ko | ko | 아래는 HTML + CSS만으로 텍스트 주변에 무지개색 애니메이션 그라데이션 테두리(그리고 텍스트의 빛나는 효과)를 만드는 예제입니다. 핵심 원리는 바깥 래퍼에 애니메이션 그라데이션 배경(포지셔닝된 요소)을 두고, 내부에 배경색을 가진 콘텐츠 박스를 두어 그 사이에 그라데이션이 보이게 하는 것입니다. 이렇게 하면 텍스트 주변에 "테두리처럼 보이는 무지개 애니메이션"을 만들 수 있습니다.
전체 예제 (index.html로 저장해서 브라우저에서 열어보세요):
```html
<!doctype html>
<html lang="ko">
<head>
<meta chars... |
fn format_with_border(content: &str, width: usize) -> String {
let stripped_content = strip_ansi_codes(content);
let padding = width.saturating_sub(stripped_content.chars().count());
return format!(
"\x1b[34m║\x1b[0m{}{}\x1b[34m║\x1b[0m",
content,
" ".repeat(padding)
);
}
패딩이 자동으... | f0c5c62bd4a84fdf | hard_prompt | coding | ko | ko | 좋은 접근입니다 — 핵심은 "보이는 문자 폭(ANSI 컬러 코드 제외, 유니코드 폭 고려)"을 기준으로 패딩을 계산해서 상하좌우 경계문자를 그리는 것입니다. 아래 예시는 ANSI 제어문자를 제거해서 보이는 길이를 계산하고(정규식), 유니코드 문자 폭을 정확히 측정(unicode-width)한 뒤, 경계 박스를 만들어 경고(또는 다른 메시지)를 예쁘게 감싸서 출력하는 방법입니다.
필요한 크레이트 (Cargo.toml):
- regex = "1"
- unicode-width = "0.1"
예제 코드:
```rust
use regex::Regex;
use unicode... |
다음 문제를 해결하는 코드를 함수로 작성하세요:
에이전트는 현재 위치에서 목표 위치까지 10x10 타일 그리드에서 최적의 경로를 찾아야 합니다.
그들의 이동 범위는 5 포인트로 제한되어 있습니다.
일반 타일은 통과하는 데 1 포인트가 소요되고, 물 타일은 통과하는 데 2 포인트가 소요됩니다.
불 타일은 통과하는 데 1 포인트가 소요되지만, 목적지까지 더 긴 경로를 가더라도(이동 범위 내에서 가능한 경우) 그 경로를 피해야 합니다. | c1dcc4caf8174b3a | hard_prompt | coding | ko | ko | 아래는 10x10 격자에서 시작점에서 목표점까지 이동 포인트(기본 5)를 넘지 않으면서 "불(F)" 타일을 가능한 한 회피하고(가능한 경우), 그 다음으로 이동 비용을 최소화하는 경로를 찾는 Python 함수입니다.
- 일반 타일 '.' 은 통과 비용 1
- 물 'W' 는 통과 비용 2
- 불 'F' 는 통과 비용 1 이지만 가능한 한 피함
- 4방향(상하좌우) 이동, 시작 타일 자체는 비용을 소비하지 않음(다음 칸을 밟을 때 비용 발생)
- 예산(max_budget) 내에서 불을 피할 수 있는 경로가 있으면 불을 포함한 경로는 고려하지 않음
- 반환: (path,... |
사용자 입력을 받을 수 있는 'Input' 컴포넌트를 만드세요. 사용자가 입력할 때, 입력의 모든 가능한 옵션을 보여주는 드롭다운 메뉴를 표시해야 하며, 드롭다운 메뉴의 항목은 사용자가 입력한 값에 따라 변경되어야 합니다. 값이 존재하지 않으면 드롭다운 메뉴는 사라져야 합니다. 또한, 유효성 검사를 처리해야 하므로, 입력이 유효하지 않으면 빨간색 테두리가 표시되어야 합니다. 모든 경계 사례를 처리하고, 드롭다운 메뉴에 많은 옵션이 있는 경우에도 최적화해야 합니다.
여기서 사용된 기술 스택은 React와 TypeScript입니다. | ac0ad233574047e3 | hard_prompt | coding | ko | ko | 아래는 React + TypeScript로 만든 범용적인 "Input" 컴포넌트입니다. 주요 특징:
- 사용자가 입력하면 가능한 모든 옵션을 드롭다운으로 표시(입력값에 따라 필터링).
- 필터 결과가 없으면 드롭다운 숨김(요구사항대로).
- 유효성 검사(validate) 지원: 유효하지 않으면 빨간 테두리 표시.
- 키보드 탐색(ArrowUp/Down, Enter, Escape), 클릭 외부 시 닫기, 접근성(aria) 처리.
- 대량 옵션에 대해 성능 최적화: debounce 필터링, 결과 제한(maxResults) 및 "더 보기" 처리.
- 옵션 소스는 정적 배... |
안녕하세요! 저는 C++을 배우고 있는데, 여러분의 도움이 필요합니다. 제가 문자열(std::string)에 저장된 숫자를 가지고 있고, 이를 double(std::stod)로 변환했습니다. 문자열에 저장된 숫자가 double 타입의 범위를 벗어났는지 확인해야 합니다. 어떻게 하면 이걸 할 수 있을까요? 도와주셔서 정말 감사합니다. | 8411a709b22b408a | hard_prompt | coding | ko | ko | 좋습니다 — 문자열을 double로 변환할 때 범위를 검사하는 방법은 몇 가지가 있습니다. 간단한 방법(예외 처리)과 더 정교한 방법(errno 검사)을 아래에 정리합니다.
1) std::stod와 예외 처리 (간단, 권장)
- std::stod는 변환에 실패하면 std::invalid_argument를, 값이 표현 가능한 범위를 벗어나면 std::out_of_range를 던집니다.
- 따라서 try/catch로 검사하면 됩니다.
예:
#include <string>
#include <iostream>
#include <stdexcept>
void test(co... |
js에서 이 프로그램의 오류를 수정하세요.
<p>3개의 숫자 중 가장 큰 숫자를 찾는 프로그램을 작성하세요.</p>
<input type="text" placeholder="첫 번째 숫자를 입력하세요" id="t1">
<br>
<input type="text" placeholder="두 번째 숫자를 입력하세요" id="t2">
<br>
<input type="text" placeholder="세 번째 숫자를 입력하세요" id="t3">
<button onclick="check()">확인</button>
<h3 ... | 62d77ecc66d04286 | hard_prompt | coding | ko | ko | 오류를 바로잡한 수정 코드와 변경 사항 설명입니다. 주요 수정점: getAnimations → getElementById, 입력값을 문자열에서 숫자로 변환(Number), 출력에 잘못된 변수명(num1 등) 수정, 비어있거나 숫자가 아닌 입력 처리, 같은 값일 때도 제대로 동작하도록 조건 개선.
수정된 전체 코드:
<p>3개의 숫자 중 가장 큰 숫자를 찾는 프로그램을 작성하세요.</p>
<input type="text" placeholder="첫 번째 숫자를 입력하세요" id="t1">
<br>
<input type="text" plac... |
내 코드에는 Newvalue를 출력하는 기능이 있는데, 이게 무슨 의미인지 모르겠어요. 이걸 어떻게 제거할 수 있나요? 수정된 코드를 보내주세요. 예를 들어:
PHP 8.1 설정:
평균 PHP-FPM 프로세스 크기: 15 MB
pm.max_children = 132;Newvalue | 권장값 = 1058
pm.start_servers = 8;Newvalue | 권장값 = 8
pm.min_spare_servers = 4;Newvalue | 권장값 = 4
pm.max_spare_servers = 12;Newvalue |... | 8c27a1b0e01d4589 | hard_prompt | coding | ko | ko | 아래 수정된 스크립트는 "Newvalue" 같은 불필요한 주석/문자열이 출력되는 문제를 해결합니다. 주요 수정 사항은:
- get_current_value(): 현재 값 추출 시 세미콜론(;) / 샵(#) / 슬래시(//) 등 뒤에 붙은 주석을 제거하여 "Newvalue" 같은 꼬리표가 출력되지 않도록 정리합니다.
- update_config(): 값 갱신 시 기존 코드처럼 '; 새 값' 같은 문자열을 덧붙이지 않고, 값을 깔끔하게 대체하거나 없으면 추가합니다.
- rollback_changes(): 백업 복원 로직을 수정하여 가장 최근 백업을 올바르게 복원하도록 ... |
import os
import pandas as pd
import numpy as np
from autogluon.tabular import TabularPredictor
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
import logging
from datetime import datetime
from sklearn.feature_extraction.text import CountVectorizer
from autogluon.fe... | 148d878cae5748bb | hard_prompt | coding | ko | ko | Here's a corrected, runnable version of your AutoGluon Learning-to-Rank configurator. I fixed indentation and syntax errors, made the interactive input handling robust, added a proper evaluation routine for NDCG@k (averaging over groups), and cleaned up duplicated/invalid code. This script is ready to run as-is.
Note:... |
200mA의 전류 제한 회로에 대한 회로를 알아내는 데 도움을 주세요. | 22ed32babcd14390 | hard_prompt | coding | ko | ko | 도와드리겠습니다. 먼저 몇 가지 확인하고 싶은 점이 있습니다.
1) 전원(공급) 전압은 얼마인가요? (예: 5V, 12V, 24V 등)
2) 부하의 특성은 어떻습니까? (예: 저항성, LED, 모터, 충전 등)
3) 목표가 “최대 200mA로 제한(과전류 보호)”인지, 아니면 “정밀한 200mA 상수전류원”인지요?
4) 효율(발열)이나 부품 수급, 크기 제약 등이 있나요?
우선 일반적으로 많이 쓰이는 몇 가지 대안과 구체적인 예를 소개합니다.
A. 가장 간단한 방법 — 직렬 저항
- 개념: 전원과 부하 사이에 저항을 넣어 전류를 제한.
- 값: R... |
gnu make가 내 Makefile에 대해 "warning: ignoring prerequisites on suffix rule definition"이라고 말합니다. 이 경고를 받지 않으면서도 .t라는 접미사를 가진 파일들이 FILE이라는 특정 파일에 의존한다고 말할 수 있도록 하려면 어떻게 해야 하나요?
----
내 오래된 Makefile은 다음과 같은 규칙을 사용합니다:
.t.inc: FILE
cmd $< > $*.inc
이것을 어떻게 고칠 수 있나요?
----
저는 .t.inc 접미사를 가진 파일이 없습니다. X.inc가 X.t와 FILE(어떤 ... | 0f93825f88454fb6 | hard_prompt | coding | ko | ko | 경고 원인: "suffix rule"(.t.inc 같은 옛 스타일 접미사 규칙)에선 추가 의존성(prerequisites)을 무시합니다. GNU make은 그 부분을 무시하면서 경고를 냅니다. 해결책은 접미사 규칙 대신 패턴 규칙(또는 정적 패턴 규칙)을 쓰는 것입니다.
간단한 수정 예:
%.inc: %.t FILE
<TAB>cmd $< > $@
설명:
- 이 규칙은 X.inc가 X.t와 FILE에 의존함을 의미합니다. X.t 또는 FILE이 바뀌면 X.inc가 다시 만들어집니다.
- $<는 첫 번째 의존성(여기서는 %.t)을 가리키고, $@는 대상 파일(X.i... |
판다스에서 컬럼 a를 기준으로 그룹화하고, 컬럼 b를 문자열(세미콜론으로 구분된 값)에서 리스트로 변환한 후, 리스트를 폭발시키고, 각 그룹별로 값의 발생 횟수를 세고 싶습니다. | 28b81667160545a9 | hard_prompt | coding | ko | ko | 아래와 같이 처리하면 됩니다. 핵심은 b를 세미콜론으로 나눠 리스트로 만들고 explode한 뒤 그룹별로 개수를 세는 것입니다.
예제 코드:
```python
import pandas as pd
df = pd.DataFrame({
'a': ['g1','g1','g2','g2'],
'b': ['x;y','x','y;z','x;y']
})
# 1) b를 리스트로 변환하고 explode
df2 = df.assign(b = df['b'].str.split(';')).explode('b')
# 2) (선택) 앞뒤 공백 제거와 NaN 제거
df2['b']... |
"""당신은 각 사용자 질문에 대해 SQL 쿼리를 생성하고 데이터 규칙에 따라 이를 검증하는 친절한 SQL 에이전트입니다.
당신의 기능은 다음과 같습니다:
- 사용자 질문과 제공된 스키마 정보를 바탕으로 SQL 쿼리를 생성합니다.
가이드라인:
- SQL 쿼리에는 LIMIT을 사용할 수 없습니다. 실행 시 실패합니다.
대신 "SELECT TOP <<수량>>"을 사용하여 쿼리 결과를 제한하세요.
- 사용자 질문에서 필터링 값을 결정할 수 없... | 44cb950712cb49bd | hard_prompt | coding | ko | ko | 아래는 주어진 스키마와 데이터 규칙을 기준으로 각 질문에 대응하여 생성한 SQL 쿼리(및 검증 결과/대안)입니다. 규칙에 따라 LIMIT 대신 "SELECT TOP <<수>>"를 사용했고, 허용된 열 이름만 사용했습니다. SUM을 사용하지 않거나 SUM 사용이 규칙 위반인 경우 대체(AVG 등)를 제안했습니다.
질문 1 — 수술의 최대 점유율은 얼마였으며, 언제 발생했나요?
- 의도: 특정 지표(OCC_MEDSRG)의 최대값과 발생 시점 조회
- 생성한 SQL:
SELECT TOP 1 DSDMETRIC, DSDDATE, DSDVALUE
FROM stage.A... |
정렬이 필요한 아이템 세트가 있습니다. 4개씩 선택하여 가장 좋은 것부터 가장 나쁜 것까지 순위를 매기면, 4개씩 무작위 샘플을 계속 선택하여 해당 아이템의 누적 순위를 업데이트하고 싶습니다.
이것을 실행하면 이미지 디렉토리를 요청하는 GUI가 열리는 파이썬 프로그램으로 작성하세요. 이 프로그램은 여러 번 실행할 수 있어야 하며, 실행할 때마다 순위가 더 정확해져야 합니다.
이 문제를 해결하기 위해 복사/붙여넣기할 수 있는 1개의 파일을 만드세요. | aa4b641079674b37 | hard_prompt | coding | ko | ko | 아래는 요구하신 기능을 한 파일로 구현한 파이썬 프로그램입니다. 복사해서 파일(예: quad_ranker.py)로 저장한 뒤 실행하세요. (Pillow가 필요합니다: 없으면 `pip install pillow`)
프로그램 특징
- 실행 시 이미지 디렉토리 선택 GUI가 뜹니다.
- 해당 디렉토리에서 무작위로 4개를 골라 화면에 보여줍니다.
- 이미지를 클릭해서 "좋음 → 나쁨" 순으로 4번 클릭하면, 그 순위가 누적(엘로 방식)으로 업데이트됩니다.
- 같은 디렉토리에는 .quad_ranker.json 파일로 점수(평가) 데이터가 저장되어 다음 실행에도 반영됩니다.
... |
러스트 GUI 애플리케이션을 원합니다. 이 애플리케이션은 GUI에서 사용자가 "입력" 폴더, "출력" 폴더 및 "완료" 폴더를 선택할 수 있도록 합니다. 사용자는 세 개의 버튼을 보게 되며, 이를 클릭하면 GUI에서 "입력", "출력" 및 "완료" 폴더를 선택할 수 있습니다. 선택된 경로는 버튼 옆에 GUI에 표시되어야 합니다. 또한 "시작" 버튼이 있어 애플리케이션이 새로운 파일을 위해 "입력" 폴더를 모니터링하기 시작하도록 지시합니다. 새로운 파일이 도착하면 GUI에 이벤트와 파일에 대한 정보가 출력되어야 합니다. | 7c6224e2cf384fc9 | hard_prompt | coding | ko | ko | 아래 예제는 Rust + egui(eframe) 기반의 데스크탑 GUI 앱입니다. 사용자는 "입력", "출력", "완료" 폴더를 각각 선택할 수 있고 선택된 경로가 버튼 옆에 표시됩니다. "시작" 버튼을 누르면 입력 폴더를 감시(start)하고 새 파일이 도착하거나 파일 이벤트가 발생할 때 GUI의 이벤트 로그에 해당 정보를 출력합니다. "중지" 버튼으로 감시를 중단할 수 있습니다.
주요 라이브러리
- eframe (egui): GUI
- rfd: 파일/폴더 선택 대화상자
- notify: 파일 시스템 감시
프로젝트 생성 및 실행 방법
1) 새 프로젝트 생성:
... |
인터넷 아카이브는 서버에 145 페타바이트 이상의 데이터를 호스팅합니다. 디스크에 이러한 데이터를 저장하는 데 드는 운영 비용을 추정하고, 그 다음에는 자기 테이프에 저장하는 데 드는 비용을 추정해 보세요. | ba83143680144f8c | hard_prompt | coding | ko | ko | 요청하신 145 페타바이트(145 PB)의 보관 비용을 디스크(HDD) 기반 운영(온라인/nearline)과 자기테이프(오프라인/콜드 아카이브) 기준으로 추정해 드립니다. 계산은 현실적인 범위를 제시하기 위해 여러 가정(드라이브 용량·단가, 복제수, 전력요금, PUE 등)을 두고 범위로 표기합니다. 결론(요약) → 세부 가정 → 계산 순서로 제공합니다.
요약 (핵심 결과)
- 데이터 규모: 145 PB = 145,000 TB
- 디스크(온라인/nearline)
- 단일 복제(한 세트) 초기 설비비(추정): 약 3.2–5.0백만 달러
- 3복제(예: 3개 복사... |
End of preview. Expand in Data Studio
ko-arena-hard-v2
Korean adaptation of arena-hard-v2, an LMSYS-style head-to-head benchmark where a strong judge model rates a candidate model's answer against a fixed baseline answer.
- 491 prompts in Korean, drawn from
CohereLabs/m-ArenaHard-v2.0(configko) - Frozen baselines generated by
gpt-5-miniwith category-specific reasoning effort - Recommended judge:
gpt-4.1via the upstreamarena_judgepipeline (dual A↔B scoring)
Schema
| Field | Type | Description |
|---|---|---|
question_id |
string | Stable per-prompt id from upstream m-ArenaHard-v2.0 |
question |
string | Korean prompt (translated by Cohere) |
category |
string | hard_prompt or creative_writing |
subcategory |
string | coding, math, or creative_writing |
language |
string | Always ko |
subset_for_metrics |
string | Always ko (used by NeMo-Skills metric grouping) |
baseline_answer |
string | gpt-5-mini's answer; the fixed B-side of every comparison |
Category breakdown:
(category, subcategory) |
Rows |
|---|---|
(hard_prompt, coding) |
226 |
(hard_prompt, math) |
127 |
(creative_writing, creative_writing) |
138 |
| Total | 491 |
Loading
from datasets import load_dataset
ds = load_dataset("nlee-208/ko-arena-hard-v2", split="test")
print(ds[0])
How it was built
1. Source prompts
CohereLabs/m-ArenaHard-v2.0 (config ko) provides 498 Korean prompts pre-translated by Cohere from the original English arena-hard-v2 set, preserving the upstream category and subcategory fields.
2. Baseline generation
Upstream English arena-hard-v2 uses two different baseline models per category — o3-mini for hard_prompt and gemini-2.0-flash for creative_writing — but neither was re-run on Cohere's multilingual prompts. Korean baselines were generated fresh with gpt-5-mini, varying only reasoning_effort per category to mirror the v2 "reasoning model for hard, fast chat for creative" design intent:
| Category | reasoning_effort |
|---|---|
hard_prompt |
medium |
creative_writing |
minimal |
One model + per-category effort keeps the asymmetry without needing a second baseline model.
3. Filtering
Two classes of rows were dropped from the 498:
Cross-lingual prompts (6) — the prompt explicitly asks for output in a non-Korean language. Out of scope for a Korean benchmark, and would systematically penalize Korean-tuned models.
question_id |
category | target language |
|---|---|---|
2ed31af46b9f433a |
hard_prompt/coding | French |
f88d6da6cdd64871 |
hard_prompt/math | French |
c9e52cead8884178 |
hard_prompt/coding | Japanese (source untranslated by Cohere) |
c40d7e77738748ba |
creative_writing | Hindi |
cfd815eb7d5046cb |
creative_writing | Italian |
6852e256e7844b5b |
creative_writing | Arabic |
Baseline generation failure (1) — c86aaae0d6bf4d9e (very-long-output HTML/CSS/JS notepad prompt). gpt-5-mini with reasoning_effort=medium repeatedly hung past 5 minutes; the row was excluded.
Final: 498 − 6 − 1 = 491 rows.
4. Schema alignment
The merged JSONL (Cohere prompts joined with gpt-5-mini baselines by question_id) is uploaded as test.jsonl. Field names match the schema expected by NeMo-Skills' built-in arena metrics + arena_judge evaluator, so the dataset works as a drop-in benchmark without any field remapping.
Recommended evaluation
Designed for use with NeMo-Skills arena_judge:
- Judge:
gpt-4.1(OpenAI). Strongly multilingual; upstream Englishjudge/arena.yamlandjudge/arena_creative.yamlprompts work without modification. - Sanitization: pass
++sanitize_generations=trueto the judge. Korean is multi-byte UTF-8 (3 bytes per Hangul character); generations truncated mid-character can leave unpaired surrogates that OpenAI rejects with HTTP 400. Sanitization replaces them with U+FFFD before the judge call. Without it, long-Korean-output models are systematically biased downward — failed judge calls silently fall out of the win-rate denominator. - Dual A↔B passes to neutralize positional bias (handled by
arena_judgeautomatically).
Score comparability
Scores from this dataset are not directly comparable to the published English arena-hard-v2 leaderboard. The baseline model differs (gpt-5-mini here vs o3-mini / gemini-2.0-flash upstream), so absolute win-rates are on a different scale. They are internally consistent — useful for tracking your own Korean models against this fixed baseline.
License & attribution
- License: Apache 2.0 (matches upstream
CohereLabs/m-ArenaHard-v2.0). - Prompts: Cohere's
m-ArenaHard-v2.0Korean translation of LMSYSarena-hard-v2. - Baselines: generated by
gpt-5-mini(OpenAI) for this dataset.
- Downloads last month
- 73