WebGL कंप्यूट शेडर कार्य वितरण: GPU थ्रेड असाइनमेंट में एक गहन अन्वेषण

WebGL में कंप्यूट शेडर, सीधे वेब ब्राउज़र के भीतर सामान्य-उद्देश्यीय गणना (GPGPU) कार्यों के लिए GPU की समानांतर प्रोसेसिंग क्षमताओं का लाभ उठाने का एक शक्तिशाली तरीका प्रदान करते हैं। कुशल और उच्च-प्रदर्शन वाले कंप्यूट कर्नल लिखने के लिए यह समझना महत्वपूर्ण है कि व्यक्तिगत GPU थ्रेड्स को कार्य कैसे वितरित किया जाता है। यह लेख WebGL कंप्यूट शेडर्स में कार्य वितरण की व्यापक पड़ताल प्रदान करता है, जिसमें अंतर्निहित अवधारणाएँ, थ्रेड असाइनमेंट रणनीतियाँ और अनुकूलन तकनीकें शामिल हैं।

कंप्यूट शेडर निष्पादन मॉडल को समझना

कार्य वितरण में गोता लगाने से पहले, आइए WebGL में कंप्यूट शेडर निष्पादन मॉडल को समझकर एक नींव स्थापित करें। यह मॉडल पदानुक्रमित है, जिसमें कई प्रमुख घटक शामिल हैं:

• कंप्यूट शेडर: GPU पर निष्पादित किया जाने वाला प्रोग्राम, जिसमें समानांतर गणना के लिए तर्क होता है।
• वर्कग्रुप: वर्क आइटम का एक संग्रह जो एक साथ निष्पादित होता है और साझा स्थानीय मेमोरी के माध्यम से डेटा साझा कर सकता है। इसे समग्र कार्य के एक हिस्से को निष्पादित करने वाली कार्यकर्ताओं की एक टीम के रूप में सोचें।
• वर्क आइटम: कंप्यूट शेडर का एक व्यक्तिगत उदाहरण, जो एक एकल GPU थ्रेड का प्रतिनिधित्व करता है। प्रत्येक वर्क आइटम समान शेडर कोड को निष्पादित करता है लेकिन संभावित रूप से विभिन्न डेटा पर काम करता है। यह टीम का व्यक्तिगत कार्यकर्ता है।
• ग्लोबल इनवोकेशन आईडी: पूरे कंप्यूट डिस्पैच में प्रत्येक वर्क आइटम के लिए एक अद्वितीय पहचानकर्ता।
• स्थानीय इनवोकेशन आईडी: अपने वर्कग्रुप के भीतर प्रत्येक वर्क आइटम के लिए एक अद्वितीय पहचानकर्ता।
• वर्कग्रुप आईडी: कंप्यूट डिस्पैच में प्रत्येक वर्कग्रुप के लिए एक अद्वितीय पहचानकर्ता।

जब आप एक कंप्यूट शेडर डिस्पैच करते हैं, तो आप वर्कग्रुप ग्रिड के आयाम निर्दिष्ट करते हैं। यह ग्रिड परिभाषित करता है कि कितने वर्कग्रुप बनाए जाएंगे और प्रत्येक वर्कग्रुप में कितने वर्क आइटम होंगे। उदाहरण के लिए, dispatchCompute(16, 8, 4) का डिस्पैच 16x8x4 आयामों वाला वर्कग्रुप का एक 3D ग्रिड बनाएगा। इनमें से प्रत्येक वर्कग्रुप को पूर्वनिर्धारित संख्या में वर्क आइटम के साथ पॉप्युलेट किया जाता है।

वर्कग्रुप आकार कॉन्फ़िगर करना

वर्कग्रुप का आकार कंप्यूट शेडर स्रोत कोड में layout क्वालिफायर का उपयोग करके परिभाषित किया गया है:

            layout (local_size_x = 8, local_size_y = 8, local_size_z = 1) in;
            

              
                Copy
              
            
          

यह घोषणा निर्दिष्ट करती है कि प्रत्येक वर्कग्रुप में 8 * 8 * 1 = 64 वर्क आइटम होंगे। local_size_x, local_size_y, और local_size_z के मान स्थिरांक अभिव्यक्तियाँ होने चाहिए और आमतौर पर 2 की घात होते हैं। अधिकतम वर्कग्रुप आकार हार्डवेयर-निर्भर होता है और इसे gl.getParameter(gl.MAX_COMPUTE_WORK_GROUP_INVOCATIONS) का उपयोग करके क्वेरी किया जा सकता है। इसके अलावा, वर्कग्रुप के व्यक्तिगत आयामों पर सीमाएं होती हैं जिन्हें gl.getParameter(gl.MAX_COMPUTE_WORK_GROUP_SIZE) का उपयोग करके क्वेरी किया जा सकता है, जो X, Y और Z आयामों के लिए अधिकतम आकार का प्रतिनिधित्व करने वाली तीन संख्याओं की एक सरणी लौटाता है।

उदाहरण: अधिकतम वर्कग्रुप आकार ढूँढना

            const maxWorkGroupInvocations = gl.getParameter(gl.MAX_COMPUTE_WORK_GROUP_INVOCATIONS);
const maxWorkGroupSize = gl.getParameter(gl.MAX_COMPUTE_WORK_GROUP_SIZE);

console.log("Maximum workgroup invocations: ", maxWorkGroupInvocations);
console.log("Maximum workgroup size: ", maxWorkGroupSize); // Output: [1024, 1024, 64]

            

              
                Copy
              
            
          

उपयुक्त वर्कग्रुप आकार चुनना प्रदर्शन के लिए महत्वपूर्ण है। छोटे वर्कग्रुप GPU के समानांतरवाद का पूरी तरह से उपयोग नहीं कर सकते हैं, जबकि बड़े वर्कग्रुप हार्डवेयर सीमाओं को पार कर सकते हैं या अक्षम मेमोरी एक्सेस पैटर्न का कारण बन सकते हैं। अक्सर, एक विशिष्ट कंप्यूट कर्नल और लक्ष्य हार्डवेयर के लिए इष्टतम वर्कग्रुप आकार निर्धारित करने के लिए प्रयोग की आवश्यकता होती है। एक अच्छा प्रारंभिक बिंदु वर्कग्रुप आकारों के साथ प्रयोग करना है जो दो की घात हैं (जैसे, 4, 8, 16, 32, 64) और प्रदर्शन पर उनके प्रभाव का विश्लेषण करना है।

GPU थ्रेड असाइनमेंट और ग्लोबल इनवोकेशन आईडी

जब एक कंप्यूट शेडर डिस्पैच किया जाता है, तो WebGL कार्यान्वयन प्रत्येक वर्क आइटम को एक विशिष्ट GPU थ्रेड असाइन करने के लिए ज़िम्मेदार होता है। प्रत्येक वर्क आइटम को उसकी ग्लोबल इनवोकेशन आईडी द्वारा विशिष्ट रूप से पहचाना जाता है, जो एक 3D वेक्टर है जो पूरे कंप्यूट डिस्पैच ग्रिड के भीतर उसकी स्थिति का प्रतिनिधित्व करता है। इस आईडी को कंप्यूट शेडर के भीतर अंतर्निहित GLSL वेरिएबल gl_GlobalInvocationID का उपयोग करके एक्सेस किया जा सकता है।

gl_GlobalInvocationID की गणना gl_WorkGroupID और gl_LocalInvocationID से निम्नलिखित सूत्र का उपयोग करके की जाती है:

            gl_GlobalInvocationID = gl_WorkGroupID * gl_WorkGroupSize + gl_LocalInvocationID;
            

              
                Copy
              
            
          

जहाँ gl_WorkGroupSize layout क्वालिफायर में निर्दिष्ट वर्कग्रुप आकार है। यह सूत्र वर्कग्रुप ग्रिड और व्यक्तिगत वर्क आइटम के बीच संबंध को उजागर करता है। प्रत्येक वर्कग्रुप को एक अद्वितीय आईडी (gl_WorkGroupID) असाइन की जाती है, और उस वर्कग्रुप के भीतर प्रत्येक वर्क आइटम को एक अद्वितीय स्थानीय आईडी (gl_LocalInvocationID) असाइन की जाती है। ग्लोबल आईडी फिर इन दोनों आईडी को जोड़कर गणना की जाती है।

उदाहरण: ग्लोबल इनवोकेशन आईडी को एक्सेस करना

            #version 450

layout (local_size_x = 8, local_size_y = 8, local_size_z = 1) in;

layout (binding = 0) buffer DataBuffer {
    float data[];
} outputData;

void main() {
    uint index = gl_GlobalInvocationID.x + gl_GlobalInvocationID.y * gl_NumWorkGroups.x * gl_WorkGroupSize.x;
    outputData.data[index] = float(index);
}
            

              
                Copy
              
            
          

इस उदाहरण में, प्रत्येक वर्क आइटम gl_GlobalInvocationID का उपयोग करके outputData बफर में अपनी इंडेक्स की गणना करता है। यह एक बड़े डेटासेट में काम वितरित करने का एक सामान्य पैटर्न है। पंक्ति `uint index = gl_GlobalInvocationID.x + gl_GlobalInvocationID.y * gl_NumWorkGroups.x * gl_WorkGroupSize.x;` महत्वपूर्ण है। आइए इसे तोड़ते हैं: * `gl_GlobalInvocationID.x` वैश्विक ग्रिड में वर्क आइटम का x-समन्वय प्रदान करता है। * `gl_GlobalInvocationID.y` वैश्विक ग्रिड में वर्क आइटम का y-समन्वय प्रदान करता है। * `gl_NumWorkGroups.x` x-आयाम में वर्कग्रुप्स की कुल संख्या प्रदान करता है। * `gl_WorkGroupSize.x` प्रत्येक वर्कग्रुप के x-आयाम में वर्क आइटम की संख्या प्रदान करता है। साथ में, ये मान प्रत्येक वर्क आइटम को फ्लैट किए गए आउटपुट डेटा सरणी के भीतर अपनी अद्वितीय इंडेक्स की गणना करने की अनुमति देते हैं। यदि आप 3D डेटा संरचना के साथ काम कर रहे थे, तो आपको इंडेक्स गणना में `gl_GlobalInvocationID.z`, `gl_NumWorkGroups.y`, `gl_WorkGroupSize.y`, `gl_NumWorkGroups.z` और `gl_WorkGroupSize.z` को भी शामिल करने की आवश्यकता होगी।

मेमोरी एक्सेस पैटर्न और कोएलेस्ड मेमोरी एक्सेस

जिस तरह से वर्क आइटम मेमोरी को एक्सेस करते हैं, वह प्रदर्शन को काफी प्रभावित कर सकता है। आदर्श रूप से, एक वर्कग्रुप के भीतर वर्क आइटम को सन्निहित मेमोरी स्थानों तक पहुंचना चाहिए। इसे कोएलेस्ड मेमोरी एक्सेस के रूप में जाना जाता है, और यह GPU को बड़े चंक्स में डेटा को कुशलता से प्राप्त करने की अनुमति देता है। जब मेमोरी एक्सेस बिखरा हुआ या गैर-सन्निहित होता है, तो GPU को कई छोटे मेमोरी लेनदेन करने की आवश्यकता हो सकती है, जिससे प्रदर्शन में बाधा आ सकती है।

कोएलेस्ड मेमोरी एक्सेस प्राप्त करने के लिए, मेमोरी में डेटा के लेआउट और डेटा तत्वों को वर्क आइटम असाइन करने के तरीके पर सावधानीपूर्वक विचार करना महत्वपूर्ण है। उदाहरण के लिए, 2D इमेज को प्रोसेस करते समय, एक ही पंक्ति में आसन्न पिक्सेल को वर्क आइटम असाइन करने से कोएलेस्ड मेमोरी एक्सेस हो सकता है।

उदाहरण: इमेज प्रोसेसिंग के लिए कोएलेस्ड मेमोरी एक्सेस

            #version 450

layout (local_size_x = 16, local_size_y = 16, local_size_z = 1) in;

layout (binding = 0) uniform sampler2D inputImage;
layout (binding = 1) writeonly uniform image2D outputImage;

void main() {
    ivec2 pixelCoord = ivec2(gl_GlobalInvocationID.xy);
    vec4 pixelColor = texture(inputImage, vec2(pixelCoord) / textureSize(inputImage, 0));

    // Perform some image processing operation (e.g., grayscale conversion)
    float gray = dot(pixelColor.rgb, vec3(0.299, 0.587, 0.114));
    vec4 outputColor = vec4(gray, gray, gray, pixelColor.a);

    imageStore(outputImage, pixelCoord, outputColor);
}
            

              
                Copy
              
            
          

इस उदाहरण में, प्रत्येक वर्क आइटम इमेज में एक एकल पिक्सेल को प्रोसेस करता है। चूंकि वर्कग्रुप का आकार 16x16 है, इसलिए एक ही वर्कग्रुप में आसन्न वर्क आइटम एक ही पंक्ति में आसन्न पिक्सेल को प्रोसेस करेंगे। यह inputImage से पढ़ने और outputImage पर लिखने के दौरान कोएलेस्ड मेमोरी एक्सेस को बढ़ावा देता है।

हालांकि, विचार करें कि क्या होगा यदि आपने इमेज डेटा को ट्रांसपोज़ किया, या यदि आपने पंक्ति-प्रमुख क्रम के बजाय कॉलम-प्रमुख क्रम में पिक्सेल को एक्सेस किया। आपको प्रदर्शन में उल्लेखनीय कमी देखने को मिलेगी क्योंकि आसन्न वर्क आइटम गैर-सन्निहित मेमोरी स्थानों तक पहुंच रहे होंगे।

साझा स्थानीय मेमोरी

साझा स्थानीय मेमोरी, जिसे स्थानीय साझा मेमोरी (LSM) के रूप में भी जाना जाता है, एक छोटा, तेज़ मेमोरी क्षेत्र है जिसे एक वर्कग्रुप के भीतर सभी वर्क आइटम द्वारा साझा किया जाता है। इसका उपयोग अक्सर एक्सेस किए गए डेटा को कैश करके या एक ही वर्कग्रुप के भीतर वर्क आइटम के बीच संचार को सुविधाजनक बनाकर प्रदर्शन में सुधार के लिए किया जा सकता है। GLSL में shared कीवर्ड का उपयोग करके साझा स्थानीय मेमोरी घोषित की जाती है।

उदाहरण: डेटा कमी के लिए साझा स्थानीय मेमोरी का उपयोग करना

            #version 450

layout (local_size_x = 64, local_size_y = 1, local_size_z = 1) in;

layout (binding = 0) buffer InputBuffer {
    float inputData[];
} inputBuffer;

layout (binding = 1) buffer OutputBuffer {
    float outputData[];
} outputBuffer;

shared float localSum[gl_WorkGroupSize.x];

void main() {
    uint localId = gl_LocalInvocationID.x;
    uint globalId = gl_GlobalInvocationID.x;

    localSum[localId] = inputBuffer.inputData[globalId];

    barrier(); // Wait for all work items to write to shared memory

    // Perform reduction within the workgroup
    for (uint i = gl_WorkGroupSize.x / 2; i > 0; i /= 2) {
        if (localId < i) {
            localSum[localId] += localSum[localId + i];
        }
        barrier(); // Wait for all work items to complete the reduction step
    }

    // Write the final sum to the output buffer
    if (localId == 0) {
        outputBuffer.outputData[gl_WorkGroupID.x] = localSum[0];
    }
}
            

              
                Copy