주요 콘텐츠로 건너뛰기
AI 튜토리얼

회사별 AI 엔지니어링 면접 질문 저장소 사용 방법

AI 엔지니어링 직무를 위한 면접 준비 저장소를 탐색하고, 복제하고, 활용하는 방법을 알아보세요. 이 튜토리얼에서는 반복해서 등장하는 주제의 우선순위를 정하고, 연결된 답변을 학습하며, 기업별로 준비하고, 시스템 설계를 연습하고, 질문 모음을 체계적인 준비 계획으로 전환하는 방법을 소개합니다.

약 14분 소요
회사별 AI 엔지니어링 면접 질문 저장소 사용 방법

이 프로젝트가 제공하는 것

AI Engineering Interview Questions Company Wise는 35개 기업에서 공개적으로 보고된 면접 질문을 엄선해 정리한 준비 자료입니다. 질문은 반복적으로 등장하는 기술 주제와 기업별로 모두 구성되어 있어, 일반적인 기대 사항을 파악하고 특정 면접 과정을 준비하기 쉽습니다.

이 저장소는 AI 엔지니어, 생성형 AI 엔지니어, LLM 엔지니어, 에이전트형 AI 엔지니어, 머신러닝 엔지니어, 리서치 엔지니어, 응용 과학자, 포워드 디플로이 엔지니어, AI 솔루션 아키텍트, AI 플랫폼 엔지니어, MLOps 엔지니어, LLMOps 엔지니어 등의 직무에 유용합니다.

질문은 공개된 면접 경험을 바탕으로 정리되었습니다. 면접 과정은 팀, 경력 수준, 지역, 시기에 따라 달라지므로, 이 자료는 정확한 대본이 아니라 준비 지도로 활용해야 합니다.

주요 기능

  • 기업별 구성: 선도적인 AI 연구소, 대형 기술 기업, 인프라 제공업체, AI 중심 제품 기업, 엔터프라이즈 AI 조직과 관련된 질문을 살펴볼 수 있습니다.
  • 기업 간 공통 주제 목록: 중복 항목을 따로 공부하는 대신 여러 고용주에게 반복해서 등장하는 질문부터 시작할 수 있습니다.
  • 직무 범위: 연구, 응용 AI, 플랫폼, 추론, 에이전트, 솔루션, 운영 직무를 준비할 수 있습니다.
  • 공개된 면접 맥락: 기업별 섹션에는 다루는 직무, 공개적으로 보고된 면접 과정, 기업별 주제가 설명되어 있습니다.
  • 연결된 해설: 많은 질문에 답변이나 심층 설명이 담긴 글 또는 동영상 링크가 포함되어 있습니다.
  • 지속적인 업데이트: 유지 관리자는 질문과 답변을 계속 추가할 예정이라고 밝혔습니다.

다루는 주제

공통 질문 섹션은 주요 AI 엔지니어링 영역으로 나뉘어 있습니다. 이 영역을 학습 계획의 기반으로 활용하세요.

LLM 내부 구조 및 아키텍처

이 섹션에서는 어텐션, KV 캐시, MQA, GQA, MLA, FlashAttention, 토큰화, 위치 인코딩, RoPE, 스케일링 법칙, 전문가 혼합 모델, 정규화, 트랜스포머 피드포워드 네트워크, 디코딩 전략을 다룹니다.

대표적인 질문은 다음과 같습니다.

  • 스케일된 내적 어텐션에서 1/sqrt(d_k) 계수를 사용하는 이유는 무엇인가요?
  • 대규모 환경에서 KV 캐시는 메모리에 어떤 영향을 미치나요?
  • FlashAttention은 FLOPs를 줄이지 않고도 어떻게 더 빠를 수 있나요?
  • 그리디 디코딩, 빔 서치, top-k, top-p, 온도 샘플링은 어떻게 다른가요?
  • 디코더 전용 트랜스포머의 순전파 과정에서 텐서별로 어떤 일이 일어나나요?

추론, 서빙 및 GPU 성능

이 범주는 LLM을 효율적으로 배포하는 데 초점을 둡니다. 프리필 및 디코드 동작, 연속 배칭, PagedAttention, 추측 디코딩, 프롬프트 캐싱, 양자화, 병렬화, 지연 시간 지표, GPU 용량 추정, 서빙 프레임워크를 포함합니다.

정의뿐 아니라 운영상의 트레이드오프도 논의할 수 있도록 준비해야 합니다. 예를 들어 면접관은 배포 후 p99 지연 시간이 두 배로 증가한 원인을 진단하거나, 700억 개 파라미터 모델을 서빙하는 데 필요한 메모리를 추정하도록 요구할 수 있습니다.

RAG 및 검색

검색 섹션에서는 청킹, 희소 및 밀집 검색, 하이브리드 검색, 재순위화, 검색 평가, HyDE, 에이전트형 RAG, 근사 최근접 이웃 인덱스, 권한 인식 검색, 인덱스 최신성, 문서 파싱, 인용 출처 부여를 다룹니다.

에이전트 및 도구 사용

에이전트 관련 질문에서는 ReAct, 도구 호출, MCP, 재시도, 타임아웃, 도구 스키마, 멀티 에이전트 오케스트레이션, 메모리, 루프 종료, 사람의 승인, 감사 가능성, 장시간 실행 에이전트의 드리프트를 다룹니다.

파인튜닝 및 정렬

이 섹션에는 RLHF, PPO, DPO, GRPO, LoRA, QLoRA, 프롬프트 및 프리픽스 튜닝, 치명적 망각, 검증 가능한 보상을 활용한 강화학습, 보상 해킹, 지식 증류가 포함됩니다.

평가 및 관측 가능성

평가 질문에서는 LLM-as-judge 시스템, 제한적인 정답 데이터, 비용이 많이 드는 전문가 라벨, 환각 감지, 모델 또는 프롬프트 변경 사항을 배포할지 결정하기 위한 회귀 게이트를 다룹니다.

접근 및 설정

이 프로젝트는 소프트웨어 라이브러리가 아니라 문서 저장소이므로 패키지 설치가 필요하지 않습니다. GitHub에서 바로 읽을 수 있습니다.

옵션 1: 브라우저에서 사용

  1. GitHub에서 저장소를 엽니다.
  2. 목차를 사용해 Common Questions Asked Across Companies를 엽니다.
  3. RAG, 추론, 에이전트와 같은 기술 범주를 선택합니다.
  4. 제공되는 경우 연결된 답변을 확인합니다.
  5. 공통 자료를 마친 후 목표 기업의 섹션으로 이동합니다.

옵션 2: 로컬에 복제

저장소를 복제하면 오프라인에서 검색하고 주석을 추가하며 업데이트할 수 있는 사본을 확보할 수 있습니다.

git clone https://github.com/pallavi-shekhar/ai-engineering-interview-questions-company-wise.git
cd ai-engineering-interview-questions-company-wise

향후 업데이트를 가져오려면 다음을 실행합니다.

git pull

그런 다음 텍스트 편집기나 Markdown 뷰어에서 README를 열고, 전체 텍스트 검색을 사용해 기업, 기술 또는 키워드를 찾을 수 있습니다.

기본 사용법: 준비 계획 세우기

1단계: 목표 직무 선택

직무마다 저장소에서 중점적으로 다루는 부분이 다르므로 먼저 목표 직무를 정하세요. LLM 추론 직무는 GPU와 서빙에 대한 더 깊은 지식이 필요할 수 있지만, 응용 AI 직무는 RAG, 평가, 제품상의 트레이드오프에 더 큰 비중을 둘 수 있습니다.

간단한 직무별 주제 매핑은 다음과 같은 형태일 수 있습니다.

  • LLM 또는 추론 엔지니어: 트랜스포머 내부 구조, KV 캐시 메모리, 배칭, 양자화, 병렬화 및 처리량
  • 응용 AI 엔지니어: RAG, 에이전트, 평가, 프롬프팅 및 파인튜닝 의사결정
  • 에이전트 엔지니어: 도구 스키마, 재시도, 메모리, 루프 종료, 오케스트레이션 및 사람의 승인
  • MLOps 또는 LLMOps 엔지니어: 서빙 지표, 관측 가능성, 회귀 테스트 게이트, 용량 계획 및 프로덕션 진단

2단계: 공통 질문부터 먼저 완료하기

README에서는 여러 회사에 공통으로 등장하는 질문부터 시작할 것을 명시적으로 권장합니다. 이렇게 하면 폭넓게 대비할 수 있고 반복 학습을 줄일 수 있습니다.

각 질문에 대해 다음 네 가지 수준으로 이해를 준비하세요.

  1. 정의: 개념을 한두 문장으로 명확하게 설명합니다.
  2. 작동 원리: 내부적으로 어떻게 작동하는지 설명합니다.
  3. 트레이드오프: 이점, 비용, 한계 및 실패 모드를 설명합니다.
  4. 적용: 언제 사용하거나 사용하지 않을지 예를 듭니다.

3단계: 연결된 답변은 선별적으로 활용하기

많은 항목에는 Outcome School의 아티클이나 동영상 링크가 포함되어 있습니다. 답변을 열기 전에 먼저 질문을 읽고 기억에 의존해 답변을 시도하세요. 그런 다음 연결된 자료를 활용해 빠진 세부 사항을 확인합니다.

예를 들어 KV 캐시 질문은 단순한 정의를 넘어선 답변으로 이어져야 합니다. 최종 준비 내용에는 캐시의 목적, 시퀀스 길이에 따른 증가, 메모리 영향, 그리고 이를 관리하는 데 사용되는 서빙 기법이 포함되어야 합니다.

4단계: 목표 회사 연구하기

공통 주제를 다룬 후에는 지원하려는 회사의 섹션을 확인하세요. 저장소는 조직을 프런티어 AI 연구소, 대형 기술 기업, 인프라 기업, AI 네이티브 제품 기업 및 엔터프라이즈 AI 기업과 같은 범주로 분류합니다.

회사 섹션에서 다음 항목을 파악하세요.

  • 보고된 면접 경험에 등장하는 직무
  • 공개적으로 알려진 면접 과정의 구성
  • 해당 조직에 보다 특화된 질문이나 주제
  • 추가 연습이 필요한 기술 영역

5단계: 질문을 능동적인 연습으로 전환하기

항목을 읽기만 하지 마세요. 소리 내어 답하고, 짧은 설명을 작성하고, 관련 수식을 도출하며, 후속 질문을 연습하세요.

예를 들어 연속 배칭에 관한 질문에는 다음과 같은 답변 구조를 사용할 수 있습니다.

1. 정적 배칭과 연속 배칭을 정의한다.
2. 요청이 서로 다른 시점에 완료되는 이유를 설명한다.
3. 비워진 배치 슬롯을 재사용하는 방법을 설명한다.
4. 이 메커니즘을 활용률 및 처리량과 연결한다.
5. 스케줄링, 지연 시간 및 구현상의 트레이드오프를 논의한다.

학습 예시

예시 1: 추론 질문 준비하기

프리필이 연산 집약적인 반면 디코딩은 메모리 대역폭에 좌우되는 이유를 묻는 질문을 선택했다고 가정해 보겠습니다.

  1. 프리필 단계와 디코드 단계를 정의합니다.
  2. 프리필 중 프롬프트 토큰을 병렬로 처리할 수 있는 방식을 설명합니다.
  3. 자기회귀 디코딩에서 토큰이 순차적으로 생성되는 이유를 설명합니다.
  4. 디코딩 중 가중치에 반복적으로 접근하는 현상을 메모리 대역폭과 연결합니다.
  5. 이 차이를 TTFT, 토큰당 지연 시간, 배칭 및 서빙 아키텍처와 연결합니다.
  6. 연결된 프리필과 디코드 비교 설명을 읽고 답변을 다듬습니다.

예시 2: RAG 설계 질문 준비하기

BM25, 밀집 검색 또는 두 방식을 함께 사용할지 묻는 질문에서는 모든 상황에 최적인 검색기를 지목하기보다 요구 사항을 중심으로 답변을 구성하세요.

  1. 코퍼스, 쿼리 유형, 목표 지연 시간 및 평가 지표를 파악합니다.
  2. 정확한 용어 검색에서 어휘 기반 매칭의 강점을 논의합니다.
  3. 개념적으로 관련된 언어를 찾는 의미 기반 검색을 논의합니다.
  4. 하이브리드 검색이 유용한 경우를 설명합니다.
  5. 생성된 답변을 평가하기 전에 검색 품질을 어떻게 평가할지 설명합니다.
  6. 권한, 인덱스 최신성 및 재순위화 비용과 같은 운영상의 고려 사항을 추가합니다.

예시 3: 에이전트 안정성 질문 준비하기

도구 호출 오류, 시간 초과 및 재시도에 대해서는 답변을 다음과 같은 프로덕션 제어 루프로 구성하세요.

요청 검증
시간 초과를 설정해 도구 호출
실패 유형 분류
적절한 경우에만 재시도
재시도 및 비용 제한 적용
수행한 작업과 결과 기록
안전하게 에스컬레이션하거나 중지

그런 다음 저장소의 관련 질문을 통해 루프 종료, 사람의 승인, 되돌릴 수 있는 작업, 감사 가능성 및 장기 실행 작업 중 드리프트에 대한 논의로 확장할 수 있습니다.

고급 준비 팁

정의만이 아니라 유도 과정 연습하기

일부 질문은 수식이나 수치 추정을 명시적으로 요구합니다. KV 캐시 메모리, 다양한 정밀도에서의 모델 가중치 메모리, 파인튜닝 메모리 및 대략적인 서빙 용량을 계산하는 연습을 하세요. 계산 전에 가정을 명시해야 합니다. 결과는 아키텍처, 정밀도, 배치 크기 및 시퀀스 길이에 따라 달라지기 때문입니다.

범주 간 개념 연결하기

강력한 면접 답변은 아키텍처를 프로덕션 동작과 연결하는 경우가 많습니다. 예를 들면 다음과 같습니다.

  • KV 캐시 설계는 트랜스포머 어텐션을 GPU 메모리 및 서빙 용량과 연결합니다.
  • 양자화는 수치 정밀도를 모델 품질, 메모리 사용량 및 처리량과 연결합니다.
  • 청킹은 문서 구조를 검색 재현율 및 답변의 출처 연결과 연결합니다.
  • 도구 스키마 설계는 모델 동작을 에이전트 안정성 및 안전성과 연결합니다.
  • 파인튜닝 선택은 데이터 품질을 비용, 지연 시간 및 치명적 망각과 연결합니다.

시스템 질문을 요구 사항 논의로 전환하기

AI 시스템 설계를 요청받으면 도구 이름부터 바로 정하지 말고 제약 조건부터 파악하세요. 예상 트래픽, 지연 시간, 품질, 데이터 최신성, 개인정보 보호, 권한, 장애 처리, 비용을 명확히 정의하세요. 그런 다음 각 아키텍처 결정이 이러한 요구 사항을 어떻게 충족하는지 설명하세요.

진단 프레임워크 준비

프로덕션 면접에서는 사실을 묻기보다 시나리오를 제시하는 경우가 많습니다. 지연 시간 회귀가 발생했다면 최근 변경 사항, 트래픽 형태, 큐잉, 프롬프트 길이, 출력 길이, 배칭, 캐시 동작, GPU 사용률, 메모리 압박, 네트워크 의존성, 다운스트림 서비스를 기준으로 조사를 나누세요.

근거 기반 추적표 유지

각 질문에 대한 자신감 점수가 포함된 로컬 체크리스트를 만드세요.

0 - 접해 본 적 없음
1 - 주제를 알아봄
2 - 정의를 설명할 수 있음
3 - 작동 원리와 트레이드오프를 설명할 수 있음
4 - 후속 질문이나 계산 문제를 해결할 수 있음
5 - 가르칠 수 있고 설계 변형에도 대응할 수 있음

범용성이 높은 질문 중 점수가 낮은 항목을 회사별 세부 자료에 시간을 쓰기 전에 먼저 복습하세요.

회사별 모의 면접 진행

지원하려는 회사와 관련된 질문을 선택하고 시간 제한 안에서 답변하세요. 연습 파트너에게 가정에 이의를 제기하거나, 계산을 요청하거나, 장애를 도입하거나, 요구 사항을 변경해 달라고 하세요. 이는 정해진 답변을 암기하는 것보다 실제 면접 대화에 더 가깝습니다.

저장소 업데이트 반영

관리자들은 새로운 질문과 답변을 추가할 계획입니다. 저장소를 클론했다면 주기적으로 git pull을 실행하세요. 브라우저 버전을 사용한다면 면접 전에 일반 질문 및 목표 회사 섹션을 다시 확인하세요.

중요한 제한 사항

  • 수집된 질문이 향후 면접에서 어떤 질문이 나올지 보장하지는 않습니다.
  • 면접 과정은 팀, 직급, 지역, 채용 시기에 따라 달라질 수 있습니다.
  • 현재 모든 질문에 연결된 답변이 있는 것은 아닙니다.
  • 연결된 설명은 능동적인 연습을 보조해야 하며, 연습을 대신해서는 안 됩니다.
  • 회사별 분류는 대본을 암기하기보다 주제의 우선순위를 정하는 데 활용해야 합니다.

결론

이 저장소는 훑어볼 목록이 아니라 체계적인 커리큘럼으로 활용할 때 가장 효과적입니다. 반복해서 등장하는 질문부터 시작하고, 작동 원리와 트레이드오프를 통해 각 답변을 심화한 다음, 관련 회사 섹션을 학습하고 실제적인 후속 질문을 연습하세요. 수집된 자료를 유도 과정, 설계 연습, 진단 시나리오, 모의 면접과 결합하면 다양한 AI 엔지니어링 직무를 위한 집중적인 준비 과정을 만들 수 있습니다.