2024/09 4

[논문 리뷰] PointNet: Deep Learning on Point Sets for 3D Classification and Segmentation

PointNet: Deep Learning on Point Sets for 3D Classification and Segmentationhttps://arxiv.org/pdf/1612.00593  0. Abstract Point cloud는 geometric data structure에서 중요하다. 불규칙적인 형태때문에 대부분의 연구자들은 3D voxel grid나 collection으로 데이터를 변환한다. 그러나 render된 데이터는 불필요하게 방대하고 문제를 일으킨다. 저자들은 point cloud를 바로 사용하는 novel type을 디자인한다. 이는 입력 point의 불변성을 잘 반영한다. PointNet은 scene semantic parsing부터 object classification, p..

논문리뷰 2024.09.25

[논문 리뷰] Attention Is All You Need(Transformer)

Attention Is All You Needhttps://arxiv.org/pdf/1706.03762 0. Abstract당시 주요한 sequence 변환 모델들은 complex recurrent 이나 인코더와 디코더를 포함한 convolutional neural network를 기반으로 한다. 또한 최신 성능의 모델들은 attention 메커니즘을 통해 인코더와 디코더가 연결되어 있다. 저자들은 Transformer라고 하는 recurrence와 convolution 전체를 배제한 오직 attention 메커니즘을 기반으로 한 새로운 네트워크 아키텍처를 제시한다. 2개의 기계번역을 대상으로 한 실험은 이 모델들의 품질이 우수함과 동시에 더 병렬 처리가 좋고 학습에 적은 시간을 필요로 한다는 것을 보여..

논문리뷰 2024.09.22

YOLOv10 Multi-GPU DDP 사용하기

YOLOv10으로 학습을 하려는데 DDP(DistributedDataParallel)로 학습을 하려니 안된다.. GPU 1개로 잘만 돌아가던 것이 2개 이상만 되면 NoModule을 띄우며 yolo를 찾지 못했다.(터미널창 지워버림ㅠ)그래서 찾은 방법이 아래의 방법이다. (ㅈㅎ아 고마워 ㅠ) 참고 : https://docs.ultralytics.com/yolov5/tutorials/multi_gpu_training/#trainingCUDA_VISIBLE_DEVICES=0,1 python -m torch.distributed.run --nproc_per_node 2 train.py --epochs 300 --batch_size 2 --data dataset.yaml  pytorch에서 ddp을 사용할 때 ..

Deep Learning 2024.09.21

YOLOv7 사용 및 학습해보기

참고 : https://foss4g.tistory.com/1796 📌 설치딥러닝 공부를 하며 코드 구현을 해본 적이 아직까지 없는데 YOLOv7을 통해 연습해보려 한다.YOLOv7은 공식적으로 코드가 오픈되어 있고 블로그 참고글이 많아 좋은 연습예제가 될 듯하다.https://github.com/WongKinYiu/yolov7 GitHub - WongKinYiu/yolov7: Implementation of paper - YOLOv7: Trainable bag-of-freebies sets new state-of-the-art for real-timeImplementation of paper - YOLOv7: Trainable bag-of-freebies sets new state-of-the-art ..

Deep Learning 2024.09.12