Jetson 기반 Pruning 기법 적용 아이디어

[official-vvoo]

실습을 진행할 때 진행하고 싶은 아이디어를 작성해주세요

예시 양식

• 분류: CV or LLM
• 주제:
• 데이터셋:
• 모델:
• pruning 방법:

※ 예시 양식을 참고하고 자유롭게 작성해주시면 됩니다.

[py6578]

예시 양식

분류: CV
주제: cnn 계열과 attention 계열 데이터 양에 따른 성능 및 최적회 정도 비교
데이터셋: imagenet
모델:
- cnn: ResNet, MobileNet, ConvNext, EfficientNet
- attention: ViT, Swin, Efficient ViT
- ref: https://huggingface.co/docs/transformers/en/model_doc/vit

pruning 방법: structured, unstructured 다

※ 예시 양식을 참고하고 자유롭게 작성해주시면 됩니다.

[official-vvoo]

• 분류: CV
• 주제: 실시간 사람 감지 기반 모델 pruning 결과 비교
• 데이터셋: COCO dataset
• 모델: SSD + MobileNetv2, EfficientDet, ViT, Retinanet(벤치마크 有) 등
• Pruning 방법: 논문 리뷰한 내용 + tensorRT model optimizer 중 pruning
• Reference
  • https://github.com/dusty-nv/jetson-inference
  • https://nvidia.github.io/TensorRT-Model-Optimizer/guides/2_pruning.html
  • https://developer.nvidia.com/embedded/jetson-benchmarks

[yujin37]

분류: CV
주제: 이미지 생성 모델에서의 pruning 결과 추론, 분류 성능 비교
데이터셋: Places2, CelebA-HQ
모델: GAN, Diffusion Model
pruning 방법: 논문 리뷰한 내용.

[Q0211]

분류: LLM
주제: Pruning 방식에 따른 performance 변화 비교 + resource 사용량 추적
모델: GPT2-small / TinyStories / NanoGPT / MiniGPT
데이터셋: Wikitext-2 / TinyStories
pruning 방법: 논문 리뷰 내용

[Sodychoe]

분류: LLM
주제: Pruning 기법 이용한 언어모델 경량화
모델: GPT-2 Small , pht-4 etc.
데이터셋: WikiText:, IMDb 등을 이용한 다운스트림 테스크에서의 비교
pruning 방법: 논문 리뷰 내용

[kbhcyj]

분류: CV
주제: pruning 기법을 이용한 백본 네트워크 경량화
데이터셋: Imagenet dataset
모델: MobileNetv2, EfficientDet, Resnet 등의 백본 네트워크
Pruning 방법: 논문 리뷰한 내용 + 리뷰 할 내용