高并发请求解决方案

使用场景：某平台用户搜索（search）-选择商品-下单；

本公司角色：二级代理商（在香港外包公司取得数据=美国总部一致对外公布的商品信息+香港一级代理商佣金）

业务处理流程：平台（多个）用户请求-公司请求-外包（美国+一级代理商）结果-公司处理-平台

业务流程中主要是针对用户搜索（search）带来的高并发处理进行一个记录。

解决方案：

LVS+Mencache（独立一台服务器 配置32g内存，liunx）

LVS分发到四台“服务器”（主要是服务器没有购买下来，用普通的4G内存台式电脑替换）；后面服务器买了，把LVS分发去掉，直接处理请求；

期间把量加大了，公司服务器可以应付过来这么多请求，但是在外包调用返点（webserver）步骤由于并发太大，处理不过来也挂了；

解决办法

1，搭建4个webserver站点，轮询访问；

2，把数据写入缓存（计划）

改进：

后台程序跑数据写入缓存

总结：

1，由于没有大数据的并发经验，很多方案都不断的尝试，改进再测试再改进；

2，处理高并发，通过分发，减轻服务器压力；后台程序支持缓存更新；

关键代码：

Mencache ：

using System;
using System.Collections.Generic;
using System.Linq;
using System.Web;
using System.Configuration;
using Memcached.ClientLibrary;

namespace Command.Memcached
{
    public class MemcachedInit
    {
        private static string _memname = "policypool";
        private static MemcachedClient _mc = new MemcachedClient();        
        private static MemcachedInit _c = new MemcachedInit();
        private MemcachedInit() { }

        public static MemcachedInit CurrentMemcached
        {
            get {
                return _c;
            }
        }

        public bool DeleteCache(string key)
        {
            return _mc.Delete(key);
        }

        public object GetCache(string key)
        {
            return _mc.Get(key);
        }

        public void SetCache(string key, object obj)
        {
            _mc.Set(key, obj);
        }

        public void SetCache(string key,object obj, DateTime dt)
        {
            _mc.Set(key, obj, dt);
        }

        public bool IsKeyExists(string key)
        {
            return _mc.KeyExists(key);
        }
        /// <summary>
        /// 增加缓存
        /// </summary>
        /// <param name="key">Key</param>
        /// <param name="obj">Value</param>
        /// <param name="min">分钟数</param>
        public void SetCache(string key, object obj, int min)
        {
            _mc.Set(key, obj, DateTime.Now.AddMinutes(min));
        }

        public bool FlushAll()
        {
            return _mc.FlushAll();
        }

        public void Init()
        {
            string[] serverlist = ConfigurationManager.AppSettings["Memcached.ServerList"].Split(',');
            //string[] serverlist = { "127.0.0.1:11211" }; //服务器列表，可多个  
            try
            {
                // 初始化SocketIO池
                string poolName = _memname;
                SockIOPool sockIOPool = SockIOPool.GetInstance(poolName);
                // 添加服务器列表
                sockIOPool.SetServers(serverlist);
                // 设置连接池初始数目
                sockIOPool.InitConnections = 3;
                // 设置连接池最小连接数目
                sockIOPool.MinConnections = 3;
                // 设置连接池最大连接数目
                sockIOPool.MaxConnections = 5;
                // 设置连接的套接字超时时间（单位：毫秒）
                sockIOPool.SocketConnectTimeout = 1000;
                // 设置套接字超时时间（单位：毫秒）
                sockIOPool.SocketTimeout = 3000;
                // 设置维护线程运行的睡眠时间：如果设置为0，那么维护线程将不会启动
                sockIOPool.MaintenanceSleep = 30;
                // 设置SockIO池的故障标志
                sockIOPool.Failover = true;
                // 是否用nagle算法启动
                sockIOPool.Nagle = false;
                // 正式初始化容器
                sockIOPool.Initialize();

                _mc.PoolName = _memname;                

                _mc.EnableCompression = false;
            }
            catch (Exception err)
            {
                common.LogUtils.Debug("memcached线程启动失败  "+err.Message);
            }
        }

    }
}

轮询遍历webservice

                ServiceSoapClient client = new  ServiceSoapClient();
//ConfigSetting.SearchUrls 存放多个webservice地址
                if (!string.IsNullOrEmpty(ConfigSetting.SearchUrls))
                {
                    client.Endpoint.Address = new System.ServiceModel.EndpointAddress(GetRandomUrl());
                }

        private string GetRandomUrl()
        {
            string[] _urls = Regex.Split(ConfigSetting.SearchUrls, ",");
            Random _r = new Random();
            int rint = _r.Next(0, 25 * _urls.Length - 1);
            return _urls[rint % _urls.Length];
        }

附图：