같은 포장과 명확한 오류 건수로 식품 스캔 앱 비교하기
과제, 분모, 불확실성을 밝히는 작고 재현 가능한 평가를 설계하세요. 모든 상황에서 이기는 앱을 지어내지 않는 방법입니다.
식품 스캔 앱을 공정하게 비교하려면 같은 포장에 대해 같은 과제를 주고, 결과를 보기 전에 성공 기준을 정하세요. 보기 좋은 화면 캡처 몇 장으로 정확성이 입증되지는 않으며, 한 기능의 시험으로 앱의 모든 기능을 평가할 수도 없습니다.
범위가 좁은 과제를 고르세요
읽을 수 있는 라벨에서 표시된 한 회분의 무게와 특정 영양소의 양을 추출하는 것처럼 관찰 가능한 일부터 시작하세요. 포장 내용을 옮겨 적어 기준 자료를 만들고 시험 전에 독립적으로 검증하세요. 미국 FDA의 영양성분표 읽기 안내는 항목을 해석하는 데 도움이 될 수 있지만, 여러분의 시험이나 어떤 앱을 인증하지는 않습니다.
각 포장 제품의 식별 정보와 원본 이미지를 기록하세요. 다양하면서도 다룰 수 있는 규모의 표본을 고르고 한계를 설명하세요. 예를 들어 좋은 조명에서 촬영한 영어 표시의 건조 식품 포장만 포함할 수 있습니다. 이 표본이 모든 장보기 상황을 대표한다고 설명하지 마세요.
같은 절차를 사용하세요
앱 버전, 기기, 날짜, 입력 이미지와 관련 설정을 기록하세요. 재시도와 수동 수정을 허용할지 미리 결정하세요. 한 앱에서는 바코드 절차를, 다른 앱에서는 이미지 전사를 시험한다면 이를 직접적인 정확도 경쟁이라고 주장하지 말고 서로 다른 과제로 보고하세요.
수정하기 전에 원시 출력을 저장하세요. 제품 식별 불일치, 양의 오류, 단위 오류, 누락된 항목, 기준 자료를 읽을 수 없는 사례를 각각 따로 기록하세요. 표시된 숫자가 그럴듯하다고 해서 잘못된 제품과의 일치를 성공적인 추출로 세어서는 안 됩니다.
분모를 정직하게 보고하세요
포장 12개에서 각각 네 항목을 평가하는 가상의 시험이라면 계획된 항목 확인은 48건입니다. 기준 항목 두 개를 읽을 수 없다면 평가 가능한 확인 46건과 제외한 두 건을 사유와 함께 보고하세요. 평가 가능한 출력 46건 중 42건이 일치한다면 42/46이라고 밝히세요. 이 결과를 모든 조건에서 앱이 정확하다는 포괄적인 주장으로 바꾸지 마세요.
포장별 완료 상태도 보고하세요. 여러 항목 오류가 한 포장에 몰린 경우는 여러 포장에서 각각 오류 하나가 발생한 경우와 다른 의미를 가집니다. 완료까지 걸린 시간도 유용할 수 있지만, 자동 처리 시간과 결과 확인 및 수정에 쓴 시간을 구분하세요.
평가를 공유한다면 절차, 표본의 한계, 관찰된 건수를 함께 공개하세요. 어떤 앱에 유리한지 본 다음 새로운 제외 조건을 고르는 일은 피하세요. 이 예시는 실제 앱의 성능을 보고하지 않습니다. 추천을 내리기 전에 근거를 수집하는 방법입니다.