WebGL কম্পিউট শেডার ওয়ার্ক ডিস্ট্রিবিউশন: GPU থ্রেড অ্যাসাইনমেন্টের একটি গভীর বিশ্লেষণ

WebGL-এ কম্পিউট শেডারগুলি সরাসরি একটি ওয়েব ব্রাউজারের মধ্যে সাধারণ-উদ্দেশ্য কম্পিউটেশন (GPGPU) কাজের জন্য GPU-এর প্যারালাল প্রসেসিং ক্ষমতাকে কাজে লাগানোর একটি শক্তিশালী উপায় প্রদান করে। দক্ষ এবং উচ্চ-পারফরম্যান্স কম্পিউট কার্নেল লেখার জন্য স্বতন্ত্র GPU থ্রেডগুলিতে কীভাবে কাজ বিতরণ করা হয় তা বোঝা অত্যন্ত গুরুত্বপূর্ণ। এই নিবন্ধটি WebGL কম্পিউট শেডারগুলিতে কাজ বিতরণের একটি বিশদ অন্বেষণ প্রদান করে, যেখানে অন্তর্নিহিত ধারণা, থ্রেড অ্যাসাইনমেন্ট কৌশল এবং অপ্টিমাইজেশন কৌশলগুলি কভার করা হয়েছে।

কম্পিউট শেডার এক্সিকিউশন মডেল বোঝা

ওয়ার্ক ডিস্ট্রিবিউশনের গভীরে যাওয়ার আগে, আসুন WebGL-এ কম্পিউট শেডার এক্সিকিউশন মডেলটি বোঝার মাধ্যমে একটি ভিত্তি স্থাপন করি। এই মডেলটি হায়ারারকিক্যাল, যা বিভিন্ন মূল উপাদান নিয়ে গঠিত:

• কম্পিউট শেডার: GPU-তে কার্যকর করা প্রোগ্রাম, যা প্যারালাল কম্পিউটেশনের জন্য লজিক ধারণ করে।
• ওয়ার্কগ্রুপ: ওয়ার্ক আইটেমগুলির একটি সংগ্রহ যা একসাথে কার্যকর হয় এবং শেয়ার্ড লোকাল মেমরির মাধ্যমে ডেটা শেয়ার করতে পারে। এটিকে একটি দলের কর্মীদের মতো ভাবুন যারা সামগ্রিক কাজের একটি অংশ সম্পাদন করছে।
• ওয়ার্ক আইটেম: কম্পিউট শেডারের একটি স্বতন্ত্র ইনস্ট্যান্স, যা একটি একক GPU থ্রেডকে প্রতিনিধিত্ব করে। প্রতিটি ওয়ার্ক আইটেম একই শেডার কোড কার্যকর করে কিন্তু সম্ভাব্য ভিন্ন ডেটার উপর কাজ করে। এটি দলের একজন স্বতন্ত্র কর্মী।
• গ্লোবাল ইনভোকেশন আইডি: সম্পূর্ণ কম্পিউট ডিসপ্যাচ জুড়ে প্রতিটি ওয়ার্ক আইটেমের জন্য একটি অনন্য শনাক্তকারী।
• লোকাল ইনভোকেশন আইডি: তার ওয়ার্কগ্রুপের মধ্যে প্রতিটি ওয়ার্ক আইটেমের জন্য একটি অনন্য শনাক্তকারী।
• ওয়ার্কগ্রুপ আইডি: কম্পিউট ডিসপ্যাচে প্রতিটি ওয়ার্কগ্রুপের জন্য একটি অনন্য শনাক্তকারী।

যখন আপনি একটি কম্পিউট শেডার ডিসপ্যাচ করেন, তখন আপনি ওয়ার্কগ্রুপ গ্রিড-এর মাত্রা নির্দিষ্ট করেন। এই গ্রিডটি সংজ্ঞায়িত করে যে কতগুলি ওয়ার্কগ্রুপ তৈরি করা হবে এবং প্রতিটি ওয়ার্কগ্রুপে কতগুলি ওয়ার্ক আইটেম থাকবে। উদাহরণস্বরূপ, dispatchCompute(16, 8, 4)-এর একটি ডিসপ্যাচ 16x8x4 মাত্রার একটি 3D ওয়ার্কগ্রুপ গ্রিড তৈরি করবে। এই ওয়ার্কগ্রুপগুলির প্রতিটি তখন একটি পূর্বনির্ধারিত সংখ্যক ওয়ার্ক আইটেম দিয়ে পূর্ণ করা হয়।

ওয়ার্কগ্রুপের আকার কনফিগার করা

ওয়ার্কগ্রুপের আকার কম্পিউট শেডার সোর্স কোডে layout কোয়ালিফায়ার ব্যবহার করে সংজ্ঞায়িত করা হয়:

            layout (local_size_x = 8, local_size_y = 8, local_size_z = 1) in;
            

              
                Copy
              
            
          

এই ডিক্লারেশনটি নির্দিষ্ট করে যে প্রতিটি ওয়ার্কগ্রুপে 8 * 8 * 1 = 64টি ওয়ার্ক আইটেম থাকবে। local_size_x, local_size_y, এবং local_size_z-এর মানগুলি অবশ্যই ধ্রুবক এক্সপ্রেশন হতে হবে এবং সাধারণত 2-এর ঘাত হয়। সর্বোচ্চ ওয়ার্কগ্রুপের আকার হার্ডওয়্যার-নির্ভর এবং gl.getParameter(gl.MAX_COMPUTE_WORK_GROUP_INVOCATIONS) ব্যবহার করে জিজ্ঞাসা করা যেতে পারে। এছাড়াও, একটি ওয়ার্কগ্রুপের স্বতন্ত্র মাত্রাগুলির উপর সীমা রয়েছে যা gl.getParameter(gl.MAX_COMPUTE_WORK_GROUP_SIZE) ব্যবহার করে জিজ্ঞাসা করা যেতে পারে, যা যথাক্রমে X, Y এবং Z মাত্রার জন্য সর্বোচ্চ আকার প্রতিনিধিত্বকারী তিনটি সংখ্যার একটি অ্যারে প্রদান করে।

উদাহরণ: সর্বোচ্চ ওয়ার্কগ্রুপের আকার খুঁজে বের করা

            const maxWorkGroupInvocations = gl.getParameter(gl.MAX_COMPUTE_WORK_GROUP_INVOCATIONS);
const maxWorkGroupSize = gl.getParameter(gl.MAX_COMPUTE_WORK_GROUP_SIZE);

console.log("Maximum workgroup invocations: ", maxWorkGroupInvocations);
console.log("Maximum workgroup size: ", maxWorkGroupSize); // Output: [1024, 1024, 64]

            

              
                Copy
              
            
          

পারফরম্যান্সের জন্য উপযুক্ত ওয়ার্কগ্রুপের আকার নির্বাচন করা অত্যন্ত গুরুত্বপূর্ণ। ছোট ওয়ার্কগ্রুপগুলি GPU-এর প্যারালালিজম সম্পূর্ণরূপে ব্যবহার করতে পারে না, যখন বড় ওয়ার্কগ্রুপগুলি হার্ডওয়্যারের সীমাবদ্ধতা অতিক্রম করতে পারে বা অদক্ষ মেমরি অ্যাক্সেস প্যাটার্নের দিকে পরিচালিত করতে পারে। প্রায়শই, একটি নির্দিষ্ট কম্পিউট কার্নেল এবং টার্গেট হার্ডওয়্যারের জন্য সর্বোত্তম ওয়ার্কগ্রুপের আকার নির্ধারণ করতে পরীক্ষার প্রয়োজন হয়। একটি ভালো সূচনা বিন্দু হলো দুইয়ের ঘাতের ওয়ার্কগ্রুপ আকার (যেমন, ৪, ৮, ১৬, ৩২, ৬৪) নিয়ে পরীক্ষা করা এবং পারফরম্যান্সের উপর তাদের প্রভাব বিশ্লেষণ করা।

GPU থ্রেড অ্যাসাইনমেন্ট এবং গ্লোবাল ইনভোকেশন আইডি

যখন একটি কম্পিউট শেডার ডিসপ্যাচ করা হয়, তখন WebGL ইমপ্লিমেন্টেশন প্রতিটি ওয়ার্ক আইটেমকে একটি নির্দিষ্ট GPU থ্রেডে বরাদ্দ করার জন্য দায়ী। প্রতিটি ওয়ার্ক আইটেম তার গ্লোবাল ইনভোকেশন আইডি দ্বারা অনন্যভাবে চিহ্নিত করা হয়, যা একটি 3D ভেক্টর যা সম্পূর্ণ কম্পিউট ডিসপ্যাচ গ্রিডের মধ্যে তার অবস্থানকে প্রতিনিধিত্ব করে। এই আইডিটি কম্পিউট শেডারের মধ্যে বিল্ট-ইন GLSL ভেরিয়েবল gl_GlobalInvocationID ব্যবহার করে অ্যাক্সেস করা যেতে পারে।

gl_GlobalInvocationID নিম্নলিখিত সূত্র ব্যবহার করে gl_WorkGroupID এবং gl_LocalInvocationID থেকে গণনা করা হয়:

            gl_GlobalInvocationID = gl_WorkGroupID * gl_WorkGroupSize + gl_LocalInvocationID;
            

              
                Copy
              
            
          

যেখানে gl_WorkGroupSize হল layout কোয়ালিফায়ারে নির্দিষ্ট করা ওয়ার্কগ্রুপের আকার। এই সূত্রটি ওয়ার্কগ্রুপ গ্রিড এবং স্বতন্ত্র ওয়ার্ক আইটেমগুলির মধ্যে সম্পর্ক তুলে ধরে। প্রতিটি ওয়ার্কগ্রুপকে একটি অনন্য আইডি (gl_WorkGroupID) বরাদ্দ করা হয়, এবং সেই ওয়ার্কগ্রুপের মধ্যে প্রতিটি ওয়ার্ক আইটেমকে একটি অনন্য লোকাল আইডি (gl_LocalInvocationID) বরাদ্দ করা হয়। গ্লোবাল আইডি তখন এই দুটি আইডি একত্রিত করে গণনা করা হয়।

উদাহরণ: গ্লোবাল ইনভোকেশন আইডি অ্যাক্সেস করা

            #version 450

layout (local_size_x = 8, local_size_y = 8, local_size_z = 1) in;

layout (binding = 0) buffer DataBuffer {
    float data[];
} outputData;

void main() {
    uint index = gl_GlobalInvocationID.x + gl_GlobalInvocationID.y * gl_NumWorkGroups.x * gl_WorkGroupSize.x;
    outputData.data[index] = float(index);
}
            

              
                Copy
              
            
          

এই উদাহরণে, প্রতিটি ওয়ার্ক আইটেম gl_GlobalInvocationID ব্যবহার করে outputData বাফারে তার ইনডেক্স গণনা করে। এটি একটি বড় ডেটাসেটের উপর কাজ বিতরণের জন্য একটি সাধারণ প্যাটার্ন। `uint index = gl_GlobalInvocationID.x + gl_GlobalInvocationID.y * gl_NumWorkGroups.x * gl_WorkGroupSize.x;` লাইনটি অত্যন্ত গুরুত্বপূর্ণ। আসুন এটি ভেঙে দেখি: * `gl_GlobalInvocationID.x` গ্লোবাল গ্রিডে ওয়ার্ক আইটেমের x-স্থানাঙ্ক প্রদান করে। * `gl_GlobalInvocationID.y` গ্লোবাল গ্রিডে ওয়ার্ক আইটেমের y-স্থানাঙ্ক প্রদান করে। * `gl_NumWorkGroups.x` x-মাত্রায় মোট ওয়ার্কগ্রুপের সংখ্যা প্রদান করে। * `gl_WorkGroupSize.x` প্রতিটি ওয়ার্কগ্রুপের x-মাত্রায় ওয়ার্ক আইটেমের সংখ্যা প্রদান করে। একসাথে, এই মানগুলি প্রতিটি ওয়ার্ক আইটেমকে ফ্ল্যাটেন করা আউটপুট ডেটা অ্যারের মধ্যে তার অনন্য ইনডেক্স গণনা করতে দেয়। আপনি যদি একটি 3D ডেটা কাঠামোর সাথে কাজ করেন, তবে আপনাকে ইনডেক্স গণনায় `gl_GlobalInvocationID.z`, `gl_NumWorkGroups.y`, `gl_WorkGroupSize.y`, `gl_NumWorkGroups.z` এবং `gl_WorkGroupSize.z`-কে অন্তর্ভুক্ত করতে হবে।

মেমরি অ্যাক্সেস প্যাটার্ন এবং কোয়ালেসড মেমরি অ্যাক্সেস

ওয়ার্ক আইটেমগুলি যেভাবে মেমরি অ্যাক্সেস করে তা পারফরম্যান্সকে উল্লেখযোগ্যভাবে প্রভাবিত করতে পারে। আদর্শভাবে, একটি ওয়ার্কগ্রুপের মধ্যে ওয়ার্ক আইটেমগুলির সন্নিহিত মেমরি অবস্থানগুলিতে অ্যাক্সেস করা উচিত। এটি কোয়ালেসড মেমরি অ্যাক্সেস নামে পরিচিত, এবং এটি GPU-কে বড় খণ্ডে ডেটা দক্ষতার সাথে আনতে দেয়। যখন মেমরি অ্যাক্সেস বিক্ষিপ্ত বা অ-সন্নিহিত হয়, তখন GPU-কে একাধিক ছোট মেমরি লেনদেন করতে হতে পারে, যা পারফরম্যান্সের প্রতিবন্ধকতা সৃষ্টি করতে পারে।

কোয়ালেসড মেমরি অ্যাক্সেস অর্জনের জন্য, মেমরিতে ডেটার বিন্যাস এবং ওয়ার্ক আইটেমগুলিকে যেভাবে ডেটা উপাদানগুলিতে বরাদ্দ করা হয় তা সাবধানে বিবেচনা করা গুরুত্বপূর্ণ। উদাহরণস্বরূপ, একটি 2D ইমেজ প্রক্রিয়া করার সময়, একই সারিতে সংলগ্ন পিক্সেলগুলিতে ওয়ার্ক আইটেম বরাদ্দ করা কোয়ালেসড মেমরি অ্যাক্সেসের দিকে পরিচালিত করতে পারে।

উদাহরণ: ইমেজ প্রসেসিংয়ের জন্য কোয়ালেসড মেমরি অ্যাক্সেস

            #version 450

layout (local_size_x = 16, local_size_y = 16, local_size_z = 1) in;

layout (binding = 0) uniform sampler2D inputImage;
layout (binding = 1) writeonly uniform image2D outputImage;

void main() {
    ivec2 pixelCoord = ivec2(gl_GlobalInvocationID.xy);
    vec4 pixelColor = texture(inputImage, vec2(pixelCoord) / textureSize(inputImage, 0));

    // Perform some image processing operation (e.g., grayscale conversion)
    float gray = dot(pixelColor.rgb, vec3(0.299, 0.587, 0.114));
    vec4 outputColor = vec4(gray, gray, gray, pixelColor.a);

    imageStore(outputImage, pixelCoord, outputColor);
}
            

              
                Copy
              
            
          

এই উদাহরণে, প্রতিটি ওয়ার্ক আইটেম ইমেজের একটি একক পিক্সেল প্রক্রিয়া করে। যেহেতু ওয়ার্কগ্রুপের আকার 16x16, একই ওয়ার্কগ্রুপের সংলগ্ন ওয়ার্ক আইটেমগুলি একই সারিতে সংলগ্ন পিক্সেল প্রক্রিয়া করবে। এটি inputImage থেকে পড়ার সময় এবং outputImage-এ লেখার সময় কোয়ালেসড মেমরি অ্যাক্সেসকে উৎসাহিত করে।

তবে, বিবেচনা করুন যদি আপনি ইমেজের ডেটা ট্রান্সপোজ করেন, বা যদি আপনি সারি-প্রধান অর্ডারের পরিবর্তে কলাম-প্রধান অর্ডারে পিক্সেল অ্যাক্সেস করেন তবে কী হবে। আপনি সম্ভবত উল্লেখযোগ্যভাবে কম পারফরম্যান্স দেখতে পাবেন কারণ সংলগ্ন ওয়ার্ক আইটেমগুলি অ-সন্নিহিত মেমরি অবস্থানগুলি অ্যাক্সেস করবে।

শেয়ার্ড লোকাল মেমরি

শেয়ার্ড লোকাল মেমরি, যা লোকাল শেয়ার্ড মেমরি (LSM) নামেও পরিচিত, একটি ছোট, দ্রুত মেমরি অঞ্চল যা একটি ওয়ার্কগ্রুপের মধ্যে সমস্ত ওয়ার্ক আইটেম দ্বারা ভাগ করা হয়। এটি ঘন ঘন অ্যাক্সেস করা ডেটা ক্যাশ করে বা একই ওয়ার্কগ্রুপের মধ্যে ওয়ার্ক আইটেমগুলির মধ্যে যোগাযোগ সহজ করে পারফরম্যান্স উন্নত করতে ব্যবহার করা যেতে পারে। GLSL-এ shared কীওয়ার্ড ব্যবহার করে শেয়ার্ড লোকাল মেমরি ঘোষণা করা হয়।

উদাহরণ: ডেটা রিডাকশনের জন্য শেয়ার্ড লোকাল মেমরি ব্যবহার করা

            #version 450

layout (local_size_x = 64, local_size_y = 1, local_size_z = 1) in;

layout (binding = 0) buffer InputBuffer {
    float inputData[];
} inputBuffer;

layout (binding = 1) buffer OutputBuffer {
    float outputData[];
} outputBuffer;

shared float localSum[gl_WorkGroupSize.x];

void main() {
    uint localId = gl_LocalInvocationID.x;
    uint globalId = gl_GlobalInvocationID.x;

    localSum[localId] = inputBuffer.inputData[globalId];

    barrier(); // Wait for all work items to write to shared memory

    // Perform reduction within the workgroup
    for (uint i = gl_WorkGroupSize.x / 2; i > 0; i /= 2) {
        if (localId < i) {
            localSum[localId] += localSum[localId + i];
        }
        barrier(); // Wait for all work items to complete the reduction step
    }

    // Write the final sum to the output buffer
    if (localId == 0) {
        outputBuffer.outputData[gl_WorkGroupID.x] = localSum[0];
    }
}
            

              
                Copy