అగ్రస్థానానికి చేరుకోవడం: 2025లో NPUలు మరియు Windows AI ఎలా పెరుగుతాయి?

వినియోగదారు ఎలక్ట్రానిక్స్‌లో ఆన్-డివైస్ AIకి 2024 పెద్ద సంవత్సరంగా సెట్ చేయబడింది. మైక్రోసాఫ్ట్ మరియు యాపిల్ రెండూ తమ తమ ఆపరేటింగ్ సిస్టమ్‌లలో మైక్రోసాఫ్ట్‌తో మార్పులు చేశాయి AI-ప్రారంభించబడిన ల్యాప్‌టాప్‌ల కోసం దాని “CoPilot+PC” బ్రాండింగ్‌ను ప్రారంభించింది మరియు Apple Apple ఇంటిలిజెన్స్‌ను విడుదల చేసింది.

ఈ ప్రారంభ ఉదాహరణలు మిశ్రమ ఫలితాలను అందించాయి. నిజ-సమయ అనువాదం మరియు పరికరంలో ప్రసంగం నుండి వచనం వంటి కొన్ని లక్షణాలు ఉపయోగకరంగా ఉండవచ్చు. మైక్రోసాఫ్ట్ విండోస్ రీకాల్ వంటి ఇతరాలు, ఇంకా నన్ను నేను నిరూపించుకోవాలి,

AI కోసం ఈ హైప్ అంతా కొత్త సంవత్సరానికి ముఖ్యమైన చిక్కులను కలిగి ఉంది. ప్రధాన స్రవంతి డెవలపర్‌లు తమ Windows యాప్‌లకు ఆన్-డివైస్ AIని జోడించడానికి ప్రయత్నించే సంవత్సరం 2025గా కనిపిస్తోంది, అంటే మీరు ఆధునిక Windows ల్యాప్‌టాప్‌ల AI పనితీరును కొనుగోలు చేసే ముందు మరింత శ్రద్ధ వహించాలనుకుంటున్నారు. . కొత్తది.

నేను AI పరిశోధన మరియు పరీక్షలో ఇద్దరు నిపుణులతో మాట్లాడాను మరియు 2025లో Windows ఆన్-డివైస్ AI ఎలా అభివృద్ధి చెందుతుందనే దాని గురించి వారి మెదడులను ఎంచుకున్నాను.

NPU పెద్ద ప్రయోజనాలను పొందబోతోంది

Windows ల్యాప్‌టాప్‌ల AI పనితీరు గురించి మీకు ఆసక్తి ఉంటే, మీరు బహుశా ప్రతి ల్యాప్‌టాప్ మోడల్ వాగ్దానం చేసిన “టాప్‌లను” పోల్చవచ్చు. TOPS (“ట్రిలియన్ ఆపరేషన్స్ పర్ సెకండ్”) అనేది పరికరంలో AI టాస్క్‌ల కోసం మాతృక గుణకారాన్ని నిర్వహించగల NPU సామర్థ్యాన్ని కొలవడం. (గురించి మరింత తెలుసుకోండి NPU అంటే ఏమిటి మరియు AIకి ఎందుకు ముఖ్యమైనది,

Windows ల్యాప్‌టాప్‌ల నుండి అందుబాటులో ఉన్న TOPS పనితీరులో 2024 పెద్ద లాభాలను చూస్తుంది. Microsoft యొక్క “CoPilot PC+” బ్రాండింగ్‌కు అర్హత పొందాలంటే, Windows ల్యాప్‌టాప్ తప్పనిసరిగా కనీసం 40 TOPS NPU పనితీరును కలిగి ఉండాలి. సందర్భం కోసం, Qualcomm యొక్క మొదటి CoPilot+ PC సుమారు 45 టాప్‌లను కోట్ చేసింది – ఇది ఇంటెల్ యొక్క “మీటోర్ లేక్” కోర్ అల్ట్రా 7 165H కంటే నాలుగు రెట్లు ఎక్కువ, ఇది కేవలం 11 TOPS NPU పనితీరును మాత్రమే కోట్ చేసింది.

“క్వాల్‌కామ్ నిజంగా అందరినీ మేల్కొలిపిందని నేను భావిస్తున్నాను” అని అన్నారు కార్ల్ ఫ్రెండ్కేంబ్రియన్ AI రీసెర్చ్‌లో వ్యవస్థాపకుడు మరియు ప్రధాన విశ్లేషకుడు. Freund గమనికలు AMD మరియు ఇంటెల్ తమ స్వంత చిప్‌లతో త్వరగా ప్రతిస్పందిస్తున్నాయి, ఇవి ఇలాంటి ఉద్ధరణను అందించాయి.

2024 చివరి నాటికి, మైక్రోసాఫ్ట్ సర్ఫేస్, ఆసుస్ ప్రోఆర్ట్ లేదా డెల్ ఎక్స్‌పిఎస్ వంటి ప్రీమియం విండోస్ ల్యాప్‌టాప్ కోసం వెతుకుతున్న కొనుగోలుదారులు గతంలో అందుబాటులో ఉన్న ఇలాంటి ప్రీమియం ల్యాప్‌టాప్‌లతో పోలిస్తే ఎన్‌పియు పనితీరులో మూడు లేదా నాలుగు రెట్లు పెరుగుదలను ఆశించవచ్చు. 2023 ముగింపు. ఇది భారీ జంప్. అయితే ఈ ట్రెండ్ 2025 వరకు కొనసాగుతుందా?

ర్యాన్ ష్రౌట్, పెర్ఫార్మెన్స్ టెస్టింగ్ లాబొరేటరీ అధ్యక్షుడు సిగ్నల్65ఉండవచ్చని అనుకుంటున్నారు. “మనం మళ్ళీ డబుల్ చూసినట్లయితే నేను ఆశ్చర్యపోను, మరియు ట్రిపుల్ మళ్ళీ నన్ను ఆశ్చర్యపరచదు.” అయితే, వచ్చే ఏడాది చివరి నాటికి ఆ తుది ప్రయోజనాలపై మరింత దృష్టి పెట్టాలని ఆయన భావిస్తున్నారు. “ఇది 2025 చివరిలో మరియు బహుశా 2026లో ఉంటుందని నా అంచనా, మేము అత్యంత ముఖ్యమైన NPU మెరుగుదలలను చూస్తాము.”

టాప్స్ ఎక్కువ కాలం అగ్రస్థానంలో ఉండలేవు

పరికరంలో AI పనితీరు కోసం సంభావ్య రెండు నుండి మూడు రెట్లు మెరుగుదల ముఖ్యమైనది. అయినప్పటికీ, చిప్ తయారీదారులు కోట్ చేసిన TOPS ప్రదర్శనలకు ఎక్కువ ప్రాధాన్యత ఇవ్వకపోవడమే ఉత్తమమని ఫ్రూండ్ మరియు ష్రౌట్ హెచ్చరించారు.

“TOPS నిజానికి ‘భయంకరమైన ఓవర్ యూజ్డ్ పనితీరు స్థితి’ని సూచిస్తుంది,” అని ఫ్రూండ్ చెప్పారు. “ఇది చాలా విలువైనది కాదు.”

GPUలను మార్కెటింగ్ చేసేటప్పుడు AMD మరియు Nvidia తరచుగా కోట్ చేసే TFLOPS గణాంకాలతో TOPSని పోల్చి ష్రౌట్ అంగీకరించింది. GPU యొక్క గరిష్ట సాధ్యమైన గణన వేగాన్ని సూచించే ఈ సంఖ్యలు వాస్తవ-ప్రపంచ పనితీరుపై ఆశ్చర్యకరంగా తక్కువ అంతర్దృష్టిని అందిస్తాయి.

వాస్తవ-ప్రపంచ AI పనితీరు ప్రస్తుతం వైల్డ్ కార్డ్‌గా ఉంది, ఎందుకంటే NPU యొక్క AI సామర్థ్యాలను ఉపయోగించుకోవడానికి Windows ఇంకా ఒకే API చుట్టూ కలిసిపోలేదు. లోపల Qualcomm చిప్ లేని CoPilot+ ల్యాప్‌టాప్‌ల యజమానులకు ఇది సమస్య.

మార్క్ హాచ్‌మన్/IDG

AMD మరియు Intel Copilot+ బ్రాండింగ్‌కు అర్హత సాధించే చిప్‌లను కలిగి ఉన్నప్పటికీ, Qualcomm ఇప్పటి వరకు అనుకూలమైన స్థానాన్ని పొందింది. Qualcomm మెషీన్లు బ్లెండర్ మరియు అఫినిటీ ఫోటో వంటి అనేక ప్రసిద్ధ యాప్‌లకు విండోస్ రీకాల్ మరియు సపోర్ట్‌ని అందజేసాయి. Qualcomm Snapdragon X హార్డ్‌వేర్‌లో మాత్రమే పని చేస్తున్నట్లు ఇటీవల ప్రకటించారు,

అయినప్పటికీ, మైక్రోసాఫ్ట్ దాని తక్కువ-స్థాయి మెషిన్ లెర్నింగ్ API (డైరెక్ట్‌ఎమ్‌ఎల్) మరియు విండోస్ కోపైలట్ రన్‌టైమ్‌కు మద్దతునిస్తుంది కాబట్టి ఇది 2025 నాటికి మారాలి, ఇందులో అనేక టాస్క్-నిర్దిష్ట AI APIలు ఉన్నాయి (వీటిలో కొన్ని ఇంకా విడుదల చేయబడలేదు). . ప్రస్తుతానికి, అది స్పష్టంగా ఉంది CoPilot+ PCలు కోరుకునేవి చాలా ఉన్నాయి మరియు వృద్ధికి చాలా స్థలం ఉంది.

“2025లో మైక్రోసాఫ్ట్ దీనిని పరిష్కరిస్తుందని నేను భావిస్తున్నాను” అని ష్రౌట్ చెప్పారు. “అప్లికేషన్ డెవలపర్‌లు డైరెక్ట్‌ఎమ్‌ఎల్‌తో బోర్డులోకి ప్రవేశించిన తర్వాత, వారు డైరెక్ట్‌ఎక్స్‌తో చేసినట్లుగా, ఇది పరిష్కరించబడిన సమస్య అవుతుంది. “మరియు ఇది చాలా కాలం పాటు సమస్యగా ఉంటుందని నేను అనుకోను.” ష్రౌట్ దీనిని PCలో 3D యొక్క ప్రారంభ రోజులతో పోల్చింది, ఇది మొదట్లో పోటీ APIలను చూసింది, కానీ చివరికి నాయకుల చుట్టూ ఏకీకృతమైంది, మైక్రోసాఫ్ట్ DirectX అత్యంత ప్రజాదరణ పొందిన ఎంపికగా మారింది.

Windows AI కోసం కేసును రుజువు చేస్తోంది

Windows అప్లికేషన్ డెవలపర్‌లు NPU యొక్క పూర్తి పనితీరును నిజంగా ఉపయోగించుకోవడాన్ని సులభతరం చేసే మెరుగైన NPUలు మరియు ఏకీకృత API రెండూ ముఖ్యమైన దశలు, కానీ పరికరంలో AI సాధారణం అవుతుందని అవి తప్పనిసరిగా హామీ ఇవ్వవు.

ఎందుకంటే డెవలపర్‌లు ఇప్పటికీ ఓపెన్‌ఏఐ మరియు ఆంత్రోపిక్ వంటి కంపెనీలను ఆశ్రయించే అవకాశం ఉంది, ఇవి ఇంటర్నెట్ సదుపాయం ఉన్న ఏ పరికరంలోనైనా తమ AI మోడల్‌లు మరియు సేవలను అందుబాటులో ఉంచుతాయి. మరియు వారి AI మోడల్‌లు ఇప్పటికీ ఆన్-డివైస్ AI మోడల్‌ల కంటే ఎక్కువ సామర్థ్యాన్ని కలిగి ఉన్నాయి, మరిన్ని చేయగలవు మరియు ఆ ఫలితాలను చాలా త్వరగా ఉత్పత్తి చేయగలవు.

అయితే, వారు క్లౌడ్‌లో హోస్ట్ చేయబడిన AI మోడల్‌లకు పెద్ద ప్రతికూలత ఉంది ఇది 2025లో మరింత సందర్భోచితంగా మారుతుంది – ధర.

“ఏమి జరుగుతుందో పర్యవేక్షించడానికి బ్యాక్‌గ్రౌండ్‌లో చిన్న భాషా నమూనాలు నిరంతరం రన్ అవుతుండటం క్లౌడ్ చేయలేనిది లేదా కనీసం మౌలిక సదుపాయాలు” అని ష్రౌట్ చెప్పారు U.S. దృక్కోణం.”

OpenAI యొక్క ఇటీవల విడుదలైన ChatGPT ప్రో, పవర్ వినియోగదారుల కోసం ఒక కొత్త ప్రీమియం టైర్, ఈ విషయాన్ని స్పష్టం చేస్తుంది. ChatGPT ప్రో కంపెనీ యొక్క కొత్త O1 మోడల్‌కు అపరిమిత యాక్సెస్‌ను మరియు Sora వీడియో జనరేటర్‌కి ప్రాధాన్యతా యాక్సెస్‌ను అందిస్తుంది, అయితే దీని ధర నెలకు $200. O1ని వినియోగదారులకు అందుబాటులో ఉంచడానికి యాప్ డెవలపర్‌లు చెల్లించే ఒక్కో టోకెన్ ధర కూడా సమానంగా ఎక్కువగా ఉంటుంది.

మరోవైపు, Windows ల్యాప్‌టాప్ యొక్క ఆన్-డివైస్ NPUని ఉపయోగించే వినియోగదారులు మరియు డెవలపర్‌లు తప్పనిసరిగా తమకు కావలసినప్పుడు దాన్ని ఉచితంగా ఉపయోగించవచ్చు. పరికరంలో AI వైపు వేయవలసిన చివరి ఇటుక ఇది కావచ్చు. డెవలపర్‌లు మరియు వినియోగదారులు ఖర్చులను తగ్గించుకోవడానికి వీలైనప్పుడల్లా Windows ల్యాప్‌టాప్‌ల NPUపై ఆధారపడే సాధనాలు మరియు ప్రోత్సాహకం రెండింటినీ కలిగి ఉంటారు.

ఆన్-డివైస్ AI వైపు మళ్లడం ఎంత వేగంగా జరుగుతుంది మరియు Windows సాఫ్ట్‌వేర్ ఎకోసిస్టమ్ ద్వారా ఇది ఎంత వరకు వ్యాపిస్తుంది అనేది చూడాలి, అయితే 2025 ఒక ప్రధాన మలుపుగా మారే అవకాశం ఉంది.

“ఐదేళ్ల క్రితం క్వాల్‌కామ్ పరికరాలపై AI పని చేస్తుందని చెప్పినప్పుడు అది సరిగ్గా ఉందని నేను భావిస్తున్నాను. మొదట్లో నాకు అనుమానం వచ్చింది. కానీ ఇప్పుడు నేను నమ్మినవాడిని అయ్యాను, ”ఫ్రాయిండ్ చెప్పారు.

తదుపరి పఠనం: మీ PCలో స్థానికంగా అమలు చేసే ఉచిత AI సాధనాలు