Tensorflow c++ vs python on embeded devices

Question

سلام دوستان

1- برای نصب تنسوفلو سی پلاس در سیستم عامل اوبونتو چیکار باید کرد ؟ لطفا اگر رفنرس خوبی برای نصب دارید لینک کنید

2- بنظرتون ارزش داره در فاز inference و محصول از tensorflow c plus استفاده کرد در edge devices ؟ میخواستم ببینم کسی تجربه پیاده سازی داره ببینه چقدر اختلاف سرعت ایجاد میکنه بین سی و پایتون در edge devices . مثلا کلاسیفیکشن یا دتکشن.

Answer 1

1- باید با bazel بیلدش کنید خود سایت tensorflow.org کاملاً توضیح داده

2- هیچ فرقی نمی کنه بجز اینکه بخواهید متدی در این بین توسعه بدید که در این صورت موضوع متفاوتی هستش. اگر کرنل خاصی قصد دارید پیاده سازی کنید حتما در c++ بهینه تر هستش.با پایتون wrapper ی بر روی فریم ورک تنسورفلو کشیده شده ولی فراخوانی صرف تفاوتی دیده نمیشه در صورت استفاده از build های یکسان

Comments

ممنون از شما
نه من منظورم اینکه یک مدلی را آموزش دادم میخواستم بیارم روی دیوایس مثله jetson nano پیاده سازی کنم گفتم ببینم اگر استفاده از مدل از c++ api استفاده کنم چقدر نسبت به python api سرعت بیشتری میگیرم ؟ اصلا فرق میکنند یا نمیکنند؟
بخاطر این میگم فرضا خود nvidia اومد برای jetson nano گزارش داده که ببرای ssd mobile v2  حداکثر 39 fps گرفته من خودم دقیقا همان مدل و کارها رو تست میکنم فروقش میشه 25-27 تا گرفت میخواستم ببینم دلیلش چی میتونه باشه وقتی همان مدل رو استفاده میکنم گفتم شاید بخاطر اینکه اونها از c++ api‌ برای تست هاشون استفاده میکنند؟ یا اینکه یکم اغراق میگن و ...
پس با این حساب برای کسی که بخاد از مدل های آماده و لایه ای در حال حاضر استفاده بکنه ترجیح میدید از همان python api برای تستام استفاده کنم؟

---

فرقی نداره .سوالات عجیبی می پرسید شما باید دقیقا خود همون مدلی که انودیا تست کرده را با همان ابعاد تست کنید انودیا چه لزومی داره ادعای فیک بکنه اغراق هم نیست اشتباه از سمت شماست .  هر ابزاری در جای خودش قابل استفاده است الان خیلی جاها از پایتون به عنوان بک اند استفاده می کنن .بک اندی نیست که بشه سطح پایین باهاش توسعه داد ولی بک اند سرهم کردنی خوبیه.فرنوش هم تلویحا همینو گفت.

---

جای اشتباه در کار نیست. چون تو form خود اندویدا هم سوال خیلیاست که کسی نشده به سرعت انها برسد. یا اینکه یه دلیلش میتونه این باشه احتمالا اونا از c++ استفاده میکنند که اینقدر تفاوت ایجاد میکند.
کدها و مدل های custom استفاده نمیشه که بگیم دلیلش بخاطر اینه. از خود گیت اونویدا exapmle هاشو ران میکنند به نتایج انها نمیرسند.