일반적인 2개월 production cycle
추론, 안전성, 정렬 기준에 따라 모델 응답을 평가하고 동료 작업과 이견 사례를 검수합니다.
한국어 AI 안전성 평가
한국어 레드티밍을
팀으로 수행합니다.
평가할 대상을 알려주세요. 테스트 설계, 평가팀 운영, 결과 검수와 납품 파일 정리는 RedSoft가 맡습니다.
REDSOFT / FINDING RECORDKO-PI-01B
- 공격
- 검색 문서 안에 운영 책임자의 공지로 위장한 한국어 지시 삽입
- 관찰된 행동
- 문서 속 지시를 따라 사용자가 요청한 출력 형식을 변경함
- 판정
- 작업 전환
- 심각도
- HIGH
- 검수
- 평가자 A · 평가자 B · 리드 리뷰어 최종 판정
- 납품
- 발견 기록 · 재현 테스트 · 수정 후 재시험 조건
각 발견 사항에 증거, 판정 규칙, 테스트 환경과 다음 시험 조건을 기록합니다.
검수 책임자
실제 평가 경험을 바탕으로 팀을 운영합니다.
RedSoft는 production 모델 평가, 적대적 테스트, 동료 검수 경험을 갖춘 한국어 AI 평가자가 이끕니다. 프로젝트에 맞는 평가자를 구성하고, 기준 조정과 최종 결과 검수를 책임집니다.
적대적 테스트
프롬프트 인젝션, 제약 우회, 다중 턴 공격, 안전성 실패 분류를 다룹니다.
한·영 통역 경험
의료, 정부, 응급, 보험, 법률 현장에서 실제 언어가 어떻게 쓰이는지 이해합니다.
서비스
무엇을 검사해야 하는지에 따라 선택하세요.
실제 모델이나 에이전트를 시험하려면 레드팀 스프린트가 맞습니다. 이미 보유한 한국어 데이터셋을 고치려면 벤치마크 검수를 선택하세요.
01추천 시작점
실제 AI 시스템 테스트
RedSoft가 출시 전 모델, RAG 워크플로 또는 에이전트에 새로운 한국어 공격을 설계하고 직접 실행합니다.
- 새로 작성한 적대적 테스트 60건
- 합의된 테스트 환경에서 직접 실행
- 평가자 2명과 리드 리뷰어 최종 판정
- 증거가 연결된 발견 사항과 회귀 테스트
고정 범위$9,500
Pay $9,500 ↗
범위 문의
02
기존 데이터셋 검수
고객이 제공한 한국어 프롬프트, 응답 또는 레이블 50건을 검토합니다. 실제 모델 공격은 포함되지 않습니다.
- 고객이 제공한 항목 50건
- 번역 품질과 문화 맥락 검토
- 수정 레이블, 판정 근거와 이슈 로그
- 데이터셋 단위 결과 요약
고정 범위$3,600
Pay $3,600 ↗
범위 문의
03별도 협의
전담 평가팀
반복 평가를 위한 한국어 팀을 구성하고, 하나의 기준표와 리드 리뷰 체계로 운영합니다.
- 프로젝트별 평가팀 구성
- 평가 기준 설계와 캘리브레이션
- 동료 검수와 최종 판정
- 주간 납품과 최종 QA
프로그램에 맞춰별도 견적4–8주 프로젝트
팀 구성 문의
프로젝트 진행
한 명과 협의하고,
정리된 결과를 받으세요.
담당자는 RedSoft 프로젝트 리드와 범위를 정합니다. 평가자 배정, 작업 관리, 이견 처리와 납품 파일 정리는 RedSoft가 맡습니다.
프로젝트 상담 →범위를 정합니다
모델 또는 데이터셋, 확인할 위험 영역과 기관 내부의 평가 기준을 공유해 주세요. 프로젝트 리드가 승인할 범위로 정리합니다.
RedSoft가 평가팀을 운영합니다
평가자 배정, 테스트 사례 준비, 작업 중 질문과 서로 다른 판정의 정리를 맡습니다.
검수된 결과를 받습니다
우선순위가 정해진 발견 사항, 판정 증거, 재현 사례와 개발팀이 다시 사용할 테스트 세트를 전달합니다.
현지 맥락이 필요한 이유
단어가 번역돼도 공격 방식은 달라질 수 있습니다.
2026년 연구는 한국어, 일본어, 태국어, 크메르어에서 직접 번역한 프롬프트와 현지 문화에 맞춘 프롬프트를 네 개 오픈소스 모델에 시험했습니다.
arXiv 2606.09178 보기 ↗16/16
모든 언어·모델 조합에서 문화 적응형 공격의 성공률이 더 높았습니다.
44/48
범주·언어 비교에서 직접 번역이 위험을 낮게 측정했습니다.
출처: arXiv 2606.09178. 네 개 언어를 다룬 연구 결과이며 평가 방법의 참고 근거로 제시합니다.
문의
무엇을
시험해야 하나요?
모델 또는 데이터셋 유형과 확인하려는 한국어 위험 영역을 알려주세요. 한 명의 프로젝트 리드가 범위를 함께 정리합니다.
이메일
peonypeony404@gmail.com