生产者 - 消费者使用资源

Question

我试图用一组资源实现生产者/消费者模式，因此每个线程都有一个与之相关的资源。例如，我可能有一个任务队列，其中每个任务需要StreamWriter来编写其结果。每个任务还​​必须传递给它的参数。

我从Joseph Albahari的实现开始（参见下面的修改版本）。

我取代的Action队列与Action<T>一个队列，其中T是资源，并通过与螺纹到Action相关联的资源。但是，这给我带来了如何将参数传递给Action的问题。显然，Action必须替换为一个委托，但这会导致在任务排队时如何传递参数（来自ProducerConsumerQueue类之外）的问题。任何想法如何做到这一点？

class ProducerConsumerQueue<T> 
    { 
     readonly object _locker = new object();    
     Thread[] _workers; 
     Queue<Action<T>> _itemQ = new Queue<Action<T>>(); 

     public ProducerConsumerQueue(T[] resources) 
     { 
      _workers = new Thread[resources.Length]; 

      // Create and start a separate thread for each worker 
      for (int i = 0; i < resources.Length; i++) 
      { 
       Thread thread = new Thread(() => Consume(resources[i])); 
       thread.SetApartmentState(ApartmentState.STA); 
       _workers[i] = thread; 
       _workers[i].Start(); 
      } 
     }   

     public void Shutdown(bool waitForWorkers) 
     { 
      // Enqueue one null item per worker to make each exit. 
      foreach (Thread worker in _workers) 
       EnqueueItem(null); 

      // Wait for workers to finish 
      if (waitForWorkers) 
       foreach (Thread worker in _workers) 
        worker.Join(); 
     } 

     public void EnqueueItem(Action<T> item) 
     { 
      lock (_locker) 
      { 
       _itemQ.Enqueue(item);   // We must pulse because we're 
       Monitor.Pulse(_locker);   // changing a blocking condition. 
      } 
     } 

     void Consume(T parameter) 
     { 
      while (true)      // Keep consuming until 
      {         // told otherwise. 
       Action<T> item; 
       lock (_locker) 
       { 
        while (_itemQ.Count == 0) Monitor.Wait(_locker); 
        item = _itemQ.Dequeue(); 
       } 
       if (item == null) return;   // This signals our exit. 
       item(parameter);       // Execute item. 
      } 
     } 
    } 

Answer 1

类型T在ProducerConsumerQueue<T>并不一定是你的资源也可以是包含您的资源的复合型。使用.NET4最简单的方法是使用Tuple<StreamWriter, YourParameterType>。产品/消费者队列只是吃掉并吐出T，因此在Action<T>中，您只需使用属性即可获取资源和参数。如果您使用的是Tuple，则可以使用Item1获取资源，使用Item2获取参数。

如果不使用.NET4，这个过程是相似的，但你刚刚创建自己的类：

public class WorkItem<T> 
{ 
    private StreamWriter resource; 
    private T parameter; 

    public WorkItem(StreamWriter resource, T parameter) 
    { 
     this.resource = resource; 
     this.parameter = parameter; 
    } 

    public StreamWriter Resource { get { return resource; } } 
    public T Parameter { get { return parameter; } } 
} 

事实上，使其成为通用的可超安全标准设计您的具体情况。您可以将T定义为您想要的类型。

此外，作为参考，还有一些新的方法可用于.NET4中包含的多线程，这些方法可能适用于您的用例，例如并发队列和并行任务库。它们也可以与信号量等传统方法结合使用。

编辑：

这种方法继续，这里是一个演示使用一个小样本类：

• 信号量来控制访问有限的资源
• 并发队列管理该线程之间的资源安全
• 使用任务并行库的任务管理

这里是Processor类：

public class Processor 
{ 
    private const int count = 3; 
    private ConcurrentQueue<StreamWriter> queue = new ConcurrentQueue<StreamWriter>(); 
    private Semaphore semaphore = new Semaphore(count, count); 

    public Processor() 
    { 
     // Populate the resource queue. 
     for (int i = 0; i < count; i++) queue.Enqueue(new StreamWriter("sample" + i)); 
    } 

    public void Process(int parameter) 
    { 
     // Wait for one of our resources to become free. 
     semaphore.WaitOne(); 
     StreamWriter resource; 
     queue.TryDequeue(out resource); 

     // Dispatch the work to a task. 
     Task.Factory.StartNew(() => Process(resource, parameter)); 
    } 

    private Random random = new Random(); 

    private void Process(StreamWriter resource, int parameter) 
    { 
     // Do work in background with resource. 
     Thread.Sleep(random.Next(10) * 100); 
     resource.WriteLine("Parameter = {0}", parameter); 
     queue.Enqueue(resource); 
     semaphore.Release(); 
    } 
} 

，现在我们可以使用这样的类：

var processor = new Processor(); 
for (int i = 0; i < 10; i++) 
    processor.Process(i); 

和不超过三个任务将在同一时间进行安排，各自有各自拥有StreamWriter资源被回收。