1. Big players (Google, Meta, Apple, Microsoft etc) are always on the lookout for alternative hardware providers: Even if they are not really serious about changing the provider, it's a good leverage point to get a better deal if you can show that you have a viable alternative.
2. PyTorch is using CUDNN, which is a neural network library by NVidia that is utilizing CUDA. I don't think there is much CUDA code in the pytorch source tree.
3. A big part of the NVIDIA moat comes from optimizations. They keep optimizing their libraries (e.g CUDNN ) to the workloads that shows in popular models and and to newly released hardware.
4. There are other popular libraries that are using CUDA directly, for example FAISS (Facebook AI similarity search https://github.com/facebookresearch/faiss). There is no drop-in replacement for that support for now.
5. Cross compilers/code generators are a threat, as they are allowing someone to write code that compiles to CPU, CUDA and other platforms.
A few points in no particular order:
1. Big players (Google, Meta, Apple, Microsoft etc) are always on the lookout for alternative hardware providers: Even if they are not really serious about changing the provider, it's a good leverage point to get a better deal if you can show that you have a viable alternative.
2. PyTorch is using CUDNN, which is a neural network library by NVidia that is utilizing CUDA. I don't think there is much CUDA code in the pytorch source tree.
3. A big part of the NVIDIA moat comes from optimizations. They keep optimizing their libraries (e.g CUDNN ) to the workloads that shows in popular models and and to newly released hardware.
4. There are other popular libraries that are using CUDA directly, for example FAISS (Facebook AI similarity search https://github.com/facebookresearch/faiss). There is no drop-in replacement for that support for now.
5. Cross compilers/code generators are a threat, as they are allowing someone to write code that compiles to CPU, CUDA and other platforms.
A major example is Halide: https://github.com/halide/Halide
ואו הערבוב של אנגלית בתגובות הוא משהו בסדר גודל אחר. המרתי הכל לעברית.
"ומטא שחררה בקוד פתוח את חבילת פייטורץ' שמנסה להוות אלטרנטיבה לחבילת התוכנה של אנבידיה, קודה.
פייטורץ' יושב מעל קודה בסטאק.
זה נכון שהוא יכול להיות איום על קודה כי הוא מספק אבסטרציה של השכבה החישובית.
אבל כל עוד אנווידיה מובילים את השוק , זה שאיי-אם-די או אינטל מוסיפים לפייטורץ' תמיכה בחומרה שלהם זה לא מאוד משנה.
הוא לא מנסה להוות אלטרנטיבה לקודה.
אני מסכים שזה רחוק מלהוות אלטרנטיבה כרגע, אבל אם זה יהפוך לסטנדרט, זה יאפשר לחברות אחרות לנגוס בחוזקה של החפיר של
CUDA
לא נכנסתי לעומק בפירוט התסריט הספציפי הזה, כי זה יצא קטע ארוך והיו שם כמה נקודות אחרות שרציתי להתמקד בהן.
נהדר כרגיל